La alarma generada estos últimos meses provoca que la reacción de la banca para reforzar la seguridad de sus sistemas para defenderse de los nuevos modelos de inteligencia artificial (IA) se acelere. A instancias del Banco Central Europeo (BCE) , las entidades financieras han elaborado planes específicos antirriesgos frente a esta tecnología que incluyen el uso de la propia IA.El pasado mes de julio, el BCE requirió al sector para elaborar planes frente a modelos avanzados de IA como Claude Mythos, de Anthropic, que en teoría sería capaz de detectar vulnerabilidades ocultas en sistemas empresariales de todo el mundo. Les dio de plazo hasta terminar el mes de octubre pero fuentes financieras señalan que prácticamente todo el sector español bajo supervisión europea ha presentado ya sus planes y estos han recibido el visto bueno del BCE .Los bancos no han querido apurar plazos para diseñar sus métodos de protección ante las nuevas capacidades de la IA. Porque la inquietud sobre lo que esta tecnología puede llegar a hacer en las manos equivocadas es real. En este sentido, varias de las entidades consultadas por este periódico han confirmado la puesta en marcha ya de sus planes antirriesgos.Fuentes bancarias señalan su preocupación por el hecho de que grupos delictivos están ya aplicando la IA a sus actuaciones y sin ningún tipo de dilema moral. Las entidades ven que la amenaza es creciente. Aunque por el momento en el sector nadie parece haber detectado ciberataques con agentes de inteligencia artificial, lo cierto es que las entidades dan por hecho que deben prepararse cuanto antes. Asimismo, hay que distinguir entre los riesgos y el nivel de protección que pueden requerir los grandes bancos (Santander, BBVA y Caixabank), en comparación a los medianos y pequeños. Varios bancos han adaptado las medidas y están avanzando por varias vías. La primera de ellas, la tradicional, reforzando sistemas de ciberseguridad al uso, actualizando los parches de los distintos softwares que utilizan; la segunda, y aquí está la novedad, consiste en que las propias entidades están utilizando la IA para defenderse de la propia IA.Este segundo enfoque consiste en utilizar las bondades de esta tecnología para detectar y prevenir ataques que provengan de estos agentes entrenados para delinquir, ya que la IA puede utilizarse tanto en términos positivos como negativos. Eso sí, siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humana ya que se ha demostrado la capacidad de ciertos agentes de salirse de su cometido y actuar de forma autónoma.Ciberriesgos Varios bancos españoles utilizan la IA como barrera, pero siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humanaEse ‘modus operandi’ novedoso es algo que viene impulsado incluso por el propio BCE , que en su carta de julio ya apuntaba a ello: «Cuando proceda, este enfoque podría complementarse con el uso de herramientas basadas en IA, siempre que su implementación vaya precedida de una evaluación exhaustiva tanto de sus posibles beneficios como de los riesgos asociados, y se mantenga sujeta a salvaguardias adecuadas, supervisión humana y una gestión de riesgos sólida».Asimismo, fuentes del sector aclaran que hay que distinguir dos cosas respecto a la inteligencia artificial : por un lado están las capacidades de los modelos que desarrollan los gigantes americanos y, por otro, cómo utilizan las empresas la IA. Pese a las alarmas, no solo la banca sino el conjunto del Ibex prosigue con la adopción de esta tecnología en sus procesos para mejorar la productividad y automatizar sistemas.La alarma, así, está en las capacidades de los modelos en sí de los Anthropic, Google, OpenAI y compañía. Y cómo determinadas organizaciones criminales usan esas capacidades. Fuentes de varias empresas del Ibex indican que hay cierto temor a brechas de seguridad y ciberataques pero que no por ello puede frenarse la innovación controlada.En la gran empresa española son conscientes de la oportunidad del debate planteado por los gigantes de la IA hace unos días sobre la necesidad de frenar los desarrollos para evitar pasarse de frenada, a la vista de los últimos incidentes con agentes descontrolados. No existe una postura común pero las fuentes consultadas sí que apuntan a la necesidad de al menos estudiar si los pros de este desarrollo acelerado en los últimos meses superan a los contras.El descontrol de la IALas compañías del Ibex siguen muy de cerca todo este debate después de que el CEO de Anthropic, Dario Amodei , propusiera en un ensayo frenar los desarrollos de la IA, no ir tan rápido en las nuevas capacidades, para dar tiempo al mundo de innovar de manera ordenada y controlada. Amodei inició el terremoto alertando de que en hasta un año la IA podría apoderarse de internet y generar pérdidas estratosféricas; a cada día que pasa se conocen más ciberataques iniciados por agentes. El CEO de Anthropic ha pedido frenar los desarrollos, tener más control y buscar acuerdos globales, incluso con China. Lo secundaron desde OpenAI, Google y SpaceXAI. Asimismo, las compañías del sector de la inteligencia artificial reclaman ahora a los gobiernos de Occidente que regulen la IA, que pongan orden en esta actividad, aunque eso sea a costa de quedarse rezagados frente a China. Porque, como señaló la nueva responsable de Anthropic en España, Cristina Pitarch, en entrevista con ABC, el sector privado por sí solo no puede hacerse cargo de la seguridad y el desarrollo de esta tecnología y debe involucrarse el sector público. La alarma generada estos últimos meses provoca que la reacción de la banca para reforzar la seguridad de sus sistemas para defenderse de los nuevos modelos de inteligencia artificial (IA) se acelere. A instancias del Banco Central Europeo (BCE) , las entidades financieras han elaborado planes específicos antirriesgos frente a esta tecnología que incluyen el uso de la propia IA.El pasado mes de julio, el BCE requirió al sector para elaborar planes frente a modelos avanzados de IA como Claude Mythos, de Anthropic, que en teoría sería capaz de detectar vulnerabilidades ocultas en sistemas empresariales de todo el mundo. Les dio de plazo hasta terminar el mes de octubre pero fuentes financieras señalan que prácticamente todo el sector español bajo supervisión europea ha presentado ya sus planes y estos han recibido el visto bueno del BCE .Los bancos no han querido apurar plazos para diseñar sus métodos de protección ante las nuevas capacidades de la IA. Porque la inquietud sobre lo que esta tecnología puede llegar a hacer en las manos equivocadas es real. En este sentido, varias de las entidades consultadas por este periódico han confirmado la puesta en marcha ya de sus planes antirriesgos.Fuentes bancarias señalan su preocupación por el hecho de que grupos delictivos están ya aplicando la IA a sus actuaciones y sin ningún tipo de dilema moral. Las entidades ven que la amenaza es creciente. Aunque por el momento en el sector nadie parece haber detectado ciberataques con agentes de inteligencia artificial, lo cierto es que las entidades dan por hecho que deben prepararse cuanto antes. Asimismo, hay que distinguir entre los riesgos y el nivel de protección que pueden requerir los grandes bancos (Santander, BBVA y Caixabank), en comparación a los medianos y pequeños. Varios bancos han adaptado las medidas y están avanzando por varias vías. La primera de ellas, la tradicional, reforzando sistemas de ciberseguridad al uso, actualizando los parches de los distintos softwares que utilizan; la segunda, y aquí está la novedad, consiste en que las propias entidades están utilizando la IA para defenderse de la propia IA.Este segundo enfoque consiste en utilizar las bondades de esta tecnología para detectar y prevenir ataques que provengan de estos agentes entrenados para delinquir, ya que la IA puede utilizarse tanto en términos positivos como negativos. Eso sí, siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humana ya que se ha demostrado la capacidad de ciertos agentes de salirse de su cometido y actuar de forma autónoma.Ciberriesgos Varios bancos españoles utilizan la IA como barrera, pero siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humanaEse ‘modus operandi’ novedoso es algo que viene impulsado incluso por el propio BCE , que en su carta de julio ya apuntaba a ello: «Cuando proceda, este enfoque podría complementarse con el uso de herramientas basadas en IA, siempre que su implementación vaya precedida de una evaluación exhaustiva tanto de sus posibles beneficios como de los riesgos asociados, y se mantenga sujeta a salvaguardias adecuadas, supervisión humana y una gestión de riesgos sólida».Asimismo, fuentes del sector aclaran que hay que distinguir dos cosas respecto a la inteligencia artificial : por un lado están las capacidades de los modelos que desarrollan los gigantes americanos y, por otro, cómo utilizan las empresas la IA. Pese a las alarmas, no solo la banca sino el conjunto del Ibex prosigue con la adopción de esta tecnología en sus procesos para mejorar la productividad y automatizar sistemas.La alarma, así, está en las capacidades de los modelos en sí de los Anthropic, Google, OpenAI y compañía. Y cómo determinadas organizaciones criminales usan esas capacidades. Fuentes de varias empresas del Ibex indican que hay cierto temor a brechas de seguridad y ciberataques pero que no por ello puede frenarse la innovación controlada.En la gran empresa española son conscientes de la oportunidad del debate planteado por los gigantes de la IA hace unos días sobre la necesidad de frenar los desarrollos para evitar pasarse de frenada, a la vista de los últimos incidentes con agentes descontrolados. No existe una postura común pero las fuentes consultadas sí que apuntan a la necesidad de al menos estudiar si los pros de este desarrollo acelerado en los últimos meses superan a los contras.El descontrol de la IALas compañías del Ibex siguen muy de cerca todo este debate después de que el CEO de Anthropic, Dario Amodei , propusiera en un ensayo frenar los desarrollos de la IA, no ir tan rápido en las nuevas capacidades, para dar tiempo al mundo de innovar de manera ordenada y controlada. Amodei inició el terremoto alertando de que en hasta un año la IA podría apoderarse de internet y generar pérdidas estratosféricas; a cada día que pasa se conocen más ciberataques iniciados por agentes. El CEO de Anthropic ha pedido frenar los desarrollos, tener más control y buscar acuerdos globales, incluso con China. Lo secundaron desde OpenAI, Google y SpaceXAI. Asimismo, las compañías del sector de la inteligencia artificial reclaman ahora a los gobiernos de Occidente que regulen la IA, que pongan orden en esta actividad, aunque eso sea a costa de quedarse rezagados frente a China. Porque, como señaló la nueva responsable de Anthropic en España, Cristina Pitarch, en entrevista con ABC, el sector privado por sí solo no puede hacerse cargo de la seguridad y el desarrollo de esta tecnología y debe involucrarse el sector público.
La alarma generada estos últimos meses provoca que la reacción de la banca para reforzar la seguridad de sus sistemas para defenderse de los nuevos modelos de inteligencia artificial (IA) se acelere. A instancias del Banco Central Europeo (BCE), las entidades financieras han … elaborado planes específicos antirriesgos frente a esta tecnología que incluyen el uso de la propia IA.
El pasado mes de julio, el BCE requirió al sector para elaborar planes frente a modelos avanzados de IA como Claude Mythos, de Anthropic, que en teoría sería capaz de detectar vulnerabilidades ocultas en sistemas empresariales de todo el mundo. Les dio de plazo hasta terminar el mes de octubre pero fuentes financieras señalan que prácticamente todo el sector español bajo supervisión europea ha presentado ya sus planes y estos han recibido el visto bueno del BCE.
Los bancos no han querido apurar plazos para diseñar sus métodos de protección ante las nuevas capacidades de la IA. Porque la inquietud sobre lo que esta tecnología puede llegar a hacer en las manos equivocadas es real. En este sentido, varias de las entidades consultadas por este periódico han confirmado la puesta en marcha ya de sus planes antirriesgos.
Noticia relacionada
-kLPD--366x256@diario_abc.jpg)
Fuentes bancarias señalan su preocupación por el hecho de que grupos delictivos están ya aplicando la IA a sus actuaciones y sin ningún tipo de dilema moral. Las entidades ven que la amenaza es creciente. Aunque por el momento en el sector nadie parece haber detectado ciberataques con agentes de inteligencia artificial, lo cierto es que las entidades dan por hecho que deben prepararse cuanto antes. Asimismo, hay que distinguir entre los riesgos y el nivel de protección que pueden requerir los grandes bancos (Santander, BBVA y Caixabank), en comparación a los medianos y pequeños.
Varios bancos han adaptado las medidas y están avanzando por varias vías. La primera de ellas, la tradicional, reforzando sistemas de ciberseguridad al uso, actualizando los parches de los distintos softwares que utilizan; la segunda, y aquí está la novedad, consiste en que las propias entidades están utilizando la IA para defenderse de la propia IA.
Este segundo enfoque consiste en utilizar las bondades de esta tecnología para detectar y prevenir ataques que provengan de estos agentes entrenados para delinquir, ya que la IA puede utilizarse tanto en términos positivos como negativos. Eso sí, siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humana ya que se ha demostrado la capacidad de ciertos agentes de salirse de su cometido y actuar de forma autónoma.
Ciberriesgos
Varios bancos españoles utilizan la IA como barrera, pero siempre de manera muy controlada, con protocolos de evaluación de riesgos, con autonomía limitada y bajo supervisión humana
Ese ‘modus operandi’ novedoso es algo que viene impulsado incluso por el propio BCE, que en su carta de julio ya apuntaba a ello: «Cuando proceda, este enfoque podría complementarse con el uso de herramientas basadas en IA, siempre que su implementación vaya precedida de una evaluación exhaustiva tanto de sus posibles beneficios como de los riesgos asociados, y se mantenga sujeta a salvaguardias adecuadas, supervisión humana y una gestión de riesgos sólida».
Asimismo, fuentes del sector aclaran que hay que distinguir dos cosas respecto a la inteligencia artificial: por un lado están las capacidades de los modelos que desarrollan los gigantes americanos y, por otro, cómo utilizan las empresas la IA. Pese a las alarmas, no solo la banca sino el conjunto del Ibex prosigue con la adopción de esta tecnología en sus procesos para mejorar la productividad y automatizar sistemas.
La alarma, así, está en las capacidades de los modelos en sí de los Anthropic, Google, OpenAI y compañía. Y cómo determinadas organizaciones criminales usan esas capacidades. Fuentes de varias empresas del Ibex indican que hay cierto temor a brechas de seguridad y ciberataques pero que no por ello puede frenarse la innovación controlada.
En la gran empresa española son conscientes de la oportunidad del debate planteado por los gigantes de la IA hace unos días sobre la necesidad de frenar los desarrollos para evitar pasarse de frenada, a la vista de los últimos incidentes con agentes descontrolados. No existe una postura común pero las fuentes consultadas sí que apuntan a la necesidad de al menos estudiar si los pros de este desarrollo acelerado en los últimos meses superan a los contras.
El descontrol de la IA
Las compañías del Ibex siguen muy de cerca todo este debate después de que el CEO de Anthropic, Dario Amodei, propusiera en un ensayo frenar los desarrollos de la IA, no ir tan rápido en las nuevas capacidades, para dar tiempo al mundo de innovar de manera ordenada y controlada.
Amodei inició el terremoto alertando de que en hasta un año la IA podría apoderarse de internet y generar pérdidas estratosféricas; a cada día que pasa se conocen más ciberataques iniciados por agentes. El CEO de Anthropic ha pedido frenar los desarrollos, tener más control y buscar acuerdos globales, incluso con China. Lo secundaron desde OpenAI, Google y SpaceXAI.
Asimismo, las compañías del sector de la inteligencia artificial reclaman ahora a los gobiernos de Occidente que regulen la IA, que pongan orden en esta actividad, aunque eso sea a costa de quedarse rezagados frente a China. Porque, como señaló la nueva responsable de Anthropic en España, Cristina Pitarch, en entrevista con ABC, el sector privado por sí solo no puede hacerse cargo de la seguridad y el desarrollo de esta tecnología y debe involucrarse el sector público.
RSS de noticias de economia
