La “amenaza para la humanidad” lo vuelve a hacer, el debate sigue y seguirá según parece con respecto a la extinción. Desde el año pasado, la inteligencia artificial genera debate entre sus múltiples usos y evitar un “Terminator” real.
En marzo, personajes como Elon Musk, Steve Wozniak y Emad Mostaque, firmaron una carta que pedía pausar la inteligencia artificial, o se usará una con mayor regulación, pues dicha tecnología sobrepasa el control para la humanidad.
Esta vez, docenas de expertos en inteligencia artificial, incluidos los directores ejecutivos de OpenAI, Google DeepMind y Anthropic, firmaron recientemente una declaración abierta publicada por el Centro para la Seguridad de la IA (CAIS).
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
Si la población ya debate y argumenta los peligros, y ventajas de está tecnología, está afirmación viene en un momento de creciente preocupación por los posibles perjuicios.
We just put out a statement:
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”
Signatories include Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa
🧵 (1/6)
— Dan Hendrycks (@DanHendrycks) May 30, 2023
No sólo se trata de gestión responsable, ¿la Inteligencia artificial será la extinción humana?
Entre los firmantes del documento hay un verdadero “quién es quién” de luminarias de AI, incluido el “Padrino” de AI, Geoffrey Hinton; Stuart Russell de la Universidad de California, Berkeley; y Lex Fridman del Instituto Tecnológico de Massachusetts. El músico Grimes también es signatario, incluido en la categoría “otras figuras notables”.
Si bien la declaración puede parecer inocua en la superficie, el mensaje subyacente es algo controvertido en la comunidad de IA.
Un número aparentemente creciente de expertos cree que las tecnologías actuales pueden o conducirán inevitablemente al surgimiento o desarrollo de un sistema de IA capaz de representar una amenaza existencial para la especie humana.
Sus puntos de vista, sin embargo, son contrarrestados por un contingente de expertos con opiniones diametralmente opuestas. El científico jefe de IA de Meta, Yann LeCun, por ejemplo, ha señalado en numerosas ocasiones que no cree necesariamente que la IA se vuelva incontrolable.
A pesar de que algunos creen si no se hace nada para frenarla, podría llegar a ser tan poderosa como para provocar trastornos a escala social en unos pocos años, aunque los investigadores aún no explican cómo ocurriría eso.
Super-human AI is nowhere near the top of the list of existential risks.
In large part because it doesn't exist yet.Until we have a basic design for even dog-level AI (let alone human level), discussing how to make it safe is premature. https://t.co/ClkZxfofV9
— Yann LeCun (@ylecun) May 30, 2023
Para él y otros que no están de acuerdo con la retórica de la “extinción”, como Andrew Ng, cofundador de Google Brain y exjefe científico de Baidu, la IA no es el problema, es la respuesta.
En el otro lado del argumento, expertos como Hinton y el CEO de Conjecture, Connor Leahy, creen que la IA a nivel humano es inevitable y, como tal, el momento de actuar es ahora.
Heads of all major AI labs signed this letter explicitly acknowledging the risk of extinction from AGI.
An incredible step forward, congratulations to Dan for his incredible work putting this together and thank you to every signatory for doing their part for a better future! https://t.co/KDkqWvdJcH
— Connor Leahy (@NPCollapse) May 30, 2023
Sin embargo, no está claro qué acciones piden los firmantes de la declaración. Los directores ejecutivos y/o jefes de IA de casi todas las principales empresas de IA, así como científicos de renombre de todo el mundo académico, se encuentran entre los que firmaron, lo que deja en claro que la intención no es detener el desarrollo de estos sistemas.
A principios de este mes, el CEO de OpenAI, Sam Altman, uno de los firmantes de la declaración mencionada anteriormente, hizo su primera aparición ante el Congreso durante una audiencia en el Senado para discutir la regulación de la IA. Su testimonio llegó a los titulares después de que pasó la mayor parte instando a los legisladores a regular su industria.
De hecho, en una entrada de blog publicada la semana pasada, Altman y otros dos ejecutivos de OpenAI propusieron varias formas de gestionar de manera responsable los potentes sistemas de inteligencia artificial. Pidieron cooperación entre los principales fabricantes de IA, más investigación técnica sobre los modelos grandes de lenguaje y la formación de una organización internacional de seguridad de la inteligencia artificial, similar al Organismo Internacional de la Energía Atómica, que trata de controlar el uso de armas nucleares.
*Con información de The Verge, The New York Times, Twitter*
