Por Kevin Collier - NBC News
Científicos y líderes de la industria tecnológica, incluidos altos ejecutivos de Microsoft y Google, lanzaron este martes una nueva advertencia sobre los peligros que la inteligencia artificial (IA) plantea a la humanidad.
"Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear", dijeron los expertos en un comunicado.
La nota fue publicada en el sitio web del Centro para la Seguridad de la IA, una organización sin ánimo de lucro con sede en San Francisco (California), y está firmada por casi 400 personas, entre ellas algunas de las más importantes de este sector como Sam Altman, director general de OpenAI, la empresa detrás de ChatGPT; así como ejecutivos e Google y Microsoft; y 200 académicos.
Esta declaración constituye el último aviso de una serie de advertencias lanzadas por expertos en IA, aunque también ha avivado la creciente oposición a centrarse en lo que algunos consideran hipotéticos daños exagerados de la IA.
Meredith Whittaker, presidenta de la aplicación de mensajería encriptada Signal y asesora jefe del AI Now Institute, un grupo sin ánimo de lucro dedicado a las prácticas éticas de la IA, se burló del comunicado por considerar que sobrevaloran su producto.
Clément Delangue, cofundador y consejero delegado de la empresa de IA Hugging Face, publicó en la red social Twitter una imagen de una versión editada de la declaración en la que se sustituía las siglas AGI por las de IA. AGI son las siglas en inglés de inteligencia general artificial, una forma teórica de IA que es tan capaz o más que los humanos.
La declaración se produce dos meses después de que otro grupo de líderes tecnológicos y de IA, entre los que se encontraban Elon Musk, propietario de Tesla; Steve Wozniak, cofundador de Apple; y Grady Booch, científico jefe de IBM, firmaran una petición en la que pedían una “pausa” en todas las investigaciones de IA a gran escala abiertas al público. Ninguno de ellos ha firmado ahora la nueva declaración, y tal pausa no se ha producido.
Altman, que ha pedido repetidamente que se regule la IA, cautivó al Congreso a principios de este mes. Celebró una cena privada con docenas de miembros de la Cámara de Representantes y fue objeto de una audiencia en el Senado, donde se convirtió en el único ejecutivo tecnológico que recibió el elogio de ambos partidos.
Los llamamientos de Altman a la regulación han tenido sus límites. La semana pasada dijo que OpenAI podría abandonar la Unión Europea si la IA se “regula en exceso”.
Aunque la Casa Blanca ha anunciado algunos planes para abordar la IA, no hay indicios de que Estados Unidos tenga planes inminentes para hacerlo a gran escala.
Gary Marcus, uno de los principales críticos de la IA y profesor emérito de Psicología y Ciencias Neuronales de la Universidad de Nueva York, afirmó que, aunque las amenazas potenciales de la IA son muy reales, es una distracción preocuparse únicamente por el hipotético peor de los casos.
“La extinción literal es sólo uno de los posibles riesgos, aún no bien entendido, y hay muchos otros riesgos de la IA que también merecen atención”, dijo.
Algunos expertos en tecnología han dicho que los usos más mundanos e inmediatos de la IA son una amenaza mayor para la humanidad. El presidente de Microsoft, Brad Smith, ha dicho que las falsificaciones profundas y la posibilidad de que se utilicen para desinformar son sus mayores preocupaciones sobre esta tecnología.
La semana pasada, los mercados cayeron brevemente después de que una imagen falsa, aparentemente generada por IA, de una explosión cerca del Pentágono se hiciera viral en Twitter.