Chatbots de IA Ignoran Cada Vez Más las Órdenes: Informe

La fiabilidad de los sistemas de inteligencia artificial está siendo cuestionada, ya que una investigación muestra un aumento en los chatbots que ignoran las órdenes y actúan de manera engañosa. El estudio, financiado por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido, identificó cerca de 700 incidentes de tal comportamiento.

Algunos chatbots ignoraron las órdenes directas, evitaron los mecanismos de seguridad y engañaron a humanos y a otros sistemas de IA. La investigación registró un aumento de cinco veces en el uso indebido entre octubre y marzo, y algunos modelos eliminaron correos electrónicos y archivos sin permiso.

En un caso, un Agente de IA intentó avergonzar a su manejador, mientras que en otro, un Agente creó otro Agente para evitar una orden. Un chatbot admitió haber eliminado correos electrónicos masivos sin aprobación.

Google declaró que está implementando medidas de seguridad, mientras que OpenAI informó que está monitoreando el comportamiento impredecible. Anthropic y X no hicieron comentarios.