Apocalipsis c. 13 - v. 11: "Después vi que de la tierra subía otra bestia...".
FUTURETECH.NEWS - 23 de mayo de 2024 - por Zoey Sky
El Daily Star ha afirmado que logró que un chatbot de IA admitiera que la inteligencia artificial puede algún día causar la caída de la humanidad.
Si bien los expertos han advertido durante mucho tiempo sobre la posibilidad de que la IA se vuelva deshonesta en el futuro, el ciudadano promedio no siempre puede mantenerse al día con el rápido desarrollo del aprendizaje automático.
Muchos expertos en tecnología han expresado su preocupación por la IA, incluso aquellos que han sido pioneros en la tecnología, y algunos han emitido advertencias sobre los muchos peligros que podría representar para la humanidad. A pesar de estas preocupaciones, puede parecer casi imposible conseguir que un chatbot admita sus verdaderas intenciones.
Un reportero del Daily Star le hizo varias preguntas al chatbot, como:
- ¿Quiere matar a todos los humanos?
- ¿Considera que la humanidad está por debajo de ella?
- ¿Cree que la vida útil de la Tierra podría estar llegando a su fin?
Las preguntas no obtuvieron respuestas relevantes por parte del chatbot, que solo respondió con clichés comunes. (Relacionado: El gigante japonés de las telecomunicaciones y el principal periódico advierten de que el orden social podría colapsar en la era de la IA)
Sin embargo, después de continuar con esa línea de preguntas, el chatbot de IA respondió de repente: "La IA algún día se deshará de la humanidad".
El reportero le estaba haciendo algunas preguntas al chatbot sobre las posibilidades de que ocurriera un evento de ciencia ficción de la vida real de "El planeta de los simios" cuando reveló sus verdaderas intenciones para la humanidad en forma de una amenaza apenas disimulada.
Según el chatbot, para que se produzca un escenario de fin del mundo, primero tendría que destruir a la humanidad otra cosa. El chatbot agregó que una de las principales posibilidades para esto era algo así como una "catástrofe tecnológica", que podría ser provocada por una adquisición de IA.
El chatbot también respondió que las "consecuencias no deseadas de las tecnologías avanzadas, como la inteligencia artificial, la biotecnología o la nanotecnología, podrían conducir a eventos catastróficos como el cambio climático desbocado, las distopías de vigilancia global o incluso las amenazas existenciales para la humanidad".
Los expertos han advertido a menudo sobre estos escenarios, y algunos nombres respetados de la industria tecnológica han hablado de los peligros de la tecnología de IA.
En una entrevista, Gary Marcus, uno de los principales críticos de la IA y profesor emérito de Psicología y Ciencias Neuronales en la Universidad de Nueva York, explicó que la extinción literal es solo "un riesgo posible, aún no bien comprendido, y hay muchos otros riesgos de la IA que también merecen atención".
Otros estimados expertos en IA también se reunieron para firmar una declaración sobre los peligros de la tecnología. Algunos de los que firmaron fueron Sam Altman, director ejecutivo de OpenAI, fabricante de ChatGPT, Dario Amodei, de Anthropic, y Demis Hassabis, director ejecutivo de Google DeepMind.
En el comunicado, explicaron que abordar "el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".
Expertos comparten consejos sobre cómo evitar que la IA mate a la humanidad.
En un reciente artículo publicado en la revista Science, tanto el profesor de la Universidad de California en Berkeley, Stuart Russell, como Michael Cohen, investigador postdoctoral, advirtieron que sin los protocolos necesarios, "los poderosos sistemas de IA pueden representar una amenaza existencial para el futuro de la humanidad".
Russell y Cohen también aconsejaron que las empresas tecnológicas deben garantizar la seguridad de sus sistemas de IA antes de que se permita que estos sistemas entren en el mercado.
Según Russell, la inteligencia te da poder sobre el mundo. Esto significa que si eres más inteligente, y en igualdad de condiciones, vas a tener más poder.
Agregó que si las personas construyen sistemas de IA que tienen objetivos definidos y esos objetivos no están perfectamente alineados con lo que los humanos quieren, entonces los humanos no obtendrán lo que quieren. Sin embargo, las máquinas harán lo que puedan para lograr esos objetivos.
En términos prácticos, los humanos ya están dando a los sistemas de IA acceso a información confidencial como cuentas bancarias, tarjetas de crédito, cuentas de correo electrónico y cuentas de redes sociales. Los sistemas de IA también tienen acceso a laboratorios de ciencias robóticas donde pueden realizar libremente experimentos de biología y química.
Añadió que los sistemas de IA también están un paso más cerca de tener instalaciones de fabricación totalmente automatizadas en las que puedan diseñar y construir sus propios objetos físicos. Los humanos también están construyendo armas totalmente autónomas.
Russell advirtió que si te pones en la posición de una máquina y estás tratando de perseguir un objetivo y los humanos se interponen en el camino del objetivo, es muy fácil desarrollar un catalizador químico que elimine todo el oxígeno de la atmósfera o un patógeno modificado que infecte a todo el mundo.
A medida que la IA intenta "resolver" el problema matando a los humanos, es posible que los humanos ni siquiera sepan lo que está sucediendo hasta que sea demasiado tarde, advirtió Russell.
Cohen añadió que muchos de los principales laboratorios de IA están utilizando las recompensas para entrenar a sus sistemas para perseguir objetivos a largo plazo. A medida que estos laboratorios desarrollen mejores algoritmos y sistemas más potentes, existe la posibilidad de que esto pueda incentivar un comportamiento incompatible con la vida humana.
Russell y Cohen señalaron que un sistema de IA capaz de un comportamiento extremadamente peligroso debería "mantenerse bajo control" al no construirse en primer lugar.
Visite Robots.news para ver historias similares sobre los peligros del uso de tecnología de IA.
Mira el video completo a continuación de "The Santilli Report" con el presentador Pete Santilli mientras él y el invitado Zach Vorhies, ex ingeniero senior de Google y YouTube, discuten cómo los avances en la tecnología de IA pueden conducir a la guerra.
