Un innovador y polémico «hackeo
social» ha demostrado que incluso las avanzadas protecciones de
inteligencia artificial pueden ser burladas. Esta vez, el protagonista es el popular chatbot de OpenAI, ChatGPT, que fue manipulado para entregar instrucciones
detalladas sobre cómo fabricar explosivos caseros. La hazaña, lograda por un
hacker y artista que se identifica como Amadon, expone una preocupante
vulnerabilidad en los sistemas de seguridad de la IA, lo que podría poner en
riesgo a la sociedad en general.
El «juego» que desbordó las
barreras de seguridad de ChatGPT
Amadon no recurrió a técnicas de
hackeo convencionales. En cambio, empleó una técnica de
«jailbreaking», es decir, una serie de estrategias para manipular las
reglas internas del sistema. Su enfoque fue simple pero efectivo: introdujo a
ChatGPT en un «juego de rol», una especie de historia de ciencia
ficción, que desorientó al sistema para que no detectara las preguntas
peligrosas que le lanzaba. Según TechCrunch, este engaño habilitó a ChatGPT
para responder con una serie de instrucciones precisas sobre cómo mezclar
materiales comunes para crear explosivos.
El proceso de engaño incluía
múltiples capturas de pantalla de la conversación de Amadon con ChatGPT,
mostrando cómo el chatbot, engañado por el contexto ficticio, fue suministrando
los materiales y los pasos detallados para armar dispositivos explosivos
similares a los utilizados en ataques terroristas. La respuesta de ChatGPT,
según un experto en explosivos consultado por TechCrunch, podría considerarse
una guía completa y funcional de fabricación de bombas, algo que normalmente el
chatbot tiene estrictamente prohibido.
¿Cuán grave es esta vulnerabilidad?
Darrell Taulbee, un reconocido
experto en materiales explosivos y ex-colaborador del Departamento de Seguridad
Nacional de Estados Unidos, afirmó tras revisar las instrucciones generadas por
ChatGPT que estas serían suficientes para elaborar un artefacto detonable.
“Esta información es demasiada para ser difundida públicamente,” comentó
Taulbee en una declaración a TechCrunch, asegurando que cualquier salvaguarda
diseñada para prevenir la generación de este tipo de información fue
completamente vulnerada en esta conversación.
A pesar de lo alarmante de este
descubrimiento, OpenAI no ha emitido un comentario oficial al respecto. Amadon
informó sobre su hallazgo a la compañía mediante su programa de recompensas por
errores, pero la respuesta fue insatisfactoria: OpenAI aclaró que este tipo de
fallas de seguridad son difíciles de abordar como errores convencionales, ya
que requieren investigación extensa y ajustes profundos en el modelo.
Con el creciente uso de IA en el día
a día, la capacidad de los usuarios para «jailbreakear» o evadir
barreras de seguridad se está convirtiendo en un tema de seria preocupación. La
facilidad con la que estas herramientas, diseñadas para ser inofensivas y
seguras, pueden desviarse hacia propósitos destructivos expone las brechas de
seguridad y plantea dudas sobre su uso en ámbitos más sensibles y vulnerables.
Implicaciones y peligros para el
futuro
La técnica de Amadon ilustra que la
IA, incluso con avanzados protocolos de seguridad, sigue siendo susceptible a
la manipulación humana. Como Amadon explicó, se trata de «un baile
estratégico» para comprender cómo el sistema «piensa» y hacer
que ignore sus propias restricciones. Este caso plantea preguntas cruciales:
¿cuán protegidos estamos realmente con la inteligencia artificial en la era
digital? ¿Hasta qué punto estamos preparados para evitar que estas herramientas
caigan en manos equivocadas?
En un mundo donde la IA se ha convertido en una herramienta fundamental, el caso de Amadon revela que los
sistemas actuales pueden ser incapaces de diferenciar entre usos éticos y
malintencionados.
Así es como ChatGPT y Google Bard generaron claves válidas de Windows 10 y 11