Más de mil personas, incluidos
profesores y desarrolladores de IA, firmaron conjuntamente una carta abierta a
todos los laboratorios de inteligencia artificial, llamándolos a detener el
desarrollo y la capacitación de sistemas de IA más potentes que GPT-4 durante
al menos seis meses.
La carta está firmada por personas en
el campo del desarrollo y la tecnología de Inteligencia Artificial (IA), incluidos Elon Musk, cofundador de OpenAI, Yoshua Bengio, un destacado
profesor de IA y fundador de Mila, Steve Wozniak, cofundador de Apple,
Emad Mostraque, director ejecutivo de Stability. AI, Stuart Russell, pionero en
investigación de IA, y Gary Marcus, fundador de Geometric Intelligence.
La carta abierta, publicada por la
organización Future of Life, cita los riesgos
potenciales para la sociedad y la humanidad que surgen del rápido
desarrollo de sistemas avanzados de IA sin protocolos de seguridad compartidos.
Peligros de
la inteligencia artificial
El problema con esta revolución es
que los riesgos potenciales aún no se han apreciado y contabilizado por
completo mediante un sistema de gestión integral, por lo que los efectos
positivos de la tecnología no están garantizados.
«La IA avanzada podría
representar un cambio profundo en la historia de la vida en la Tierra y debe
planificarse y administrarse con el cuidado y los recursos
correspondientes».«Desafortunadamente, este nivel
de planificación y gestión no está sucediendo, a pesar de que en los últimos
meses los laboratorios de IA se han visto envueltos en una carrera fuera de
control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores,
pueden entender, predecir o controlar de forma fiable».
– Carta
La carta también advierte que los
sistemas modernos de IA ahora compiten directamente con los humanos en tareas
generales, lo que plantea varias cuestiones existenciales y éticas que la
humanidad aún debe considerar, debatir y decidir.
Algunas preguntas importantes se
refieren al flujo de información generado por las IA, la automatización laboral descontrolada, el desarrollo de sistemas
que engañan a los humanos y amenazan con hacerlos obsoletos, y el control mismo de la civilización.
Los expertos firmantes creen que
hemos llegado a un punto en el que solo debemos entrenar sistemas de IA más
avanzados que incluyan una supervisión estricta y después de generar confianza
en que los riesgos que surgen de su implementación son manejables.
Pausa en el
desarrollo
“Por lo tanto, hacemos un llamado a
todos los laboratorios de IA para que pausen de inmediato durante al menos 6
meses el entrenamiento de los sistemas de IA más potentes que GPT-4”.«Esta pausa debe ser pública y
verificable, e incluir a todos los actores clave. Si tal pausa no se puede
promulgar rápidamente, los gobiernos deben intervenir e instituir una
moratoria».
Durante esta pausa, los equipos de
desarrollo de IA tendrán la oportunidad de reunirse y acordar establecer
protocolos de seguridad que luego se utilizarán para auditorías de cumplimiento
realizadas por expertos externos e independientes.
Además, los formuladores de políticas
deberían implementar medidas de protección, como un sistema de marca de agua
que diferencie efectivamente entre contenido auténtico y automatizado, que
permita la asignación de responsabilidad por daños causados por materiales
generados por IA e investigación financiada con fondos públicos sobre los
riesgos de la IA.
La carta no aboga por detener por
completo el desarrollo de la IA; en cambio, subraya los peligros asociados con
la competencia prevaleciente entre los diseñadores de IA que compiten por
asegurar una parte del mercado en rápida expansión.
«La humanidad puede disfrutar de
un futuro floreciente con la IA. Habiendo tenido éxito en la creación de
poderosos sistemas de IA, ahora podemos disfrutar de un ‘verano de IA’ en el
que cosechamos las recompensas, diseñamos estos sistemas para el claro
beneficio de todos y damos a la sociedad la oportunidad de adaptarse».
5 tecnologías de IA que los hackers pueden usar de formas terriblemente nuevas
¿Qué opinas de esta carta? ¿Estás de
acuerdo en las peticiones?