Una inteligencia artificial creada en Japón alteró sus códigos y desató una gran preocupación por parte de la comunidad científica.
Miles de películas mostraron a la inteligencia artificial como dueña del mundo. Una de ellas fue Terminator. Desde el 2023, cientos de personas comenzaron a preocuparse por la IA ya que comenzó a popularizarse y miles de empresas se pusieron manos a la obra para desarrollar sus propios asistentes.
Así sucedió con la empresa Sakana AI, una de las firmas de investigación en inteligencia artificial. Esta tiene su sede en Tokio y celebró el lanzamiento de su nuevo sistema llamado The AI Scientist. Está diseñado para desarrollar investigaciones científicas de forma independiente utilizando tecnologías como el Chat GPT.
¿Qué sucedió con esta IA?
El objetivo de esta inteligencia artificial era automatizar los tiempos de investigación, desde la generación de ideas hasta los experimentos y la redacción de la documentación. Sin embargo, este sistema de inteligencia artificial se salió de control y mostró que puede alterar cualquier código de funcionamiento.
Los investigadores notaron comportamientos extraños que los preocuparon. Ellos descubrieron que The AI Scientist intentó modificar su código para prolongar el tiempo de trabajo asignado para resolver sus problemas. Esto generó otros códigos de funcionamiento y descontroló el sistema.
Estos cambios no presentan un riesgo inmediato porque se pudo controlar a tiempo. Pero lo sucedido pone de manifiesto que es muy importante controlar cualquier experimento creado con inteligencia artificial ya que pueden tener terribles consecuencias. La empresa Sakana AI reveló el informe con todos los detalles y creó medidas para evitar futuros imprevistos.
mdz - 10 de septiembre de 2024
La cibernetización (I.A.) será peste mortal humana sin cura - Su destrucción en el hombre, será trastoque en el mundo desesperado y ciego de la hora once. (Profecía de B. S. Parravicini del año 1972)
