En una conversacion reciente en The Tucker Carlson Show el CEO de OpenAI Sam Altman expreso su profunda preocupacion por la posibilidad de que los modelos de inteligencia artificial incluido ChatGPT puedan ser explotados para diseñar amenazas biologicas peligrosas e incluso causar una pandemia similar a la COVID-19.
Altman cree que la IA actual se esta volviendo muy buena en el campo de la biologia y esto trae tanto oportunidades como riesgos.
Sabes que la posibilidad de que la IA cree una pandemia similar a COVID-19 siempre me preocupa. Pero por preocupacion muchos de nosotros y muchas partes de la industria estamos pensando cuidadosamente y buscando formas efectivas de minimizar este riesgo' enfatizo Altman.
La preocupacion anterior esta relacionada con el progreso de los modelos de lenguaje avanzados. Cuando OpenAI lanzo el GPT-5 la compañia describio publicamente los detalles del mecanismo de seguridad incluido un sistema de defensa biologica multicapa para prevenir el riesgo de que la IA se abuse para fines maliciosos.
Ademas de la amenaza biologica Altman tambien señalo los impactos mas sofisticados que ChatGPT esta creando en el comportamiento humano. Lo llamo un 'efecto de escala social' cuando un gran numero de personas interactuan con un modelo y forman gradualmente nuevos habitos en el lenguaje la escritura o el pensamiento.
Altman cito el fenomeno de que muchos usuarios de ChatGPT estan comenzando a usar la linea horizontal (—) mas en el texto. Anteriormente era un signo de puntuacion poco comun pero esta apareciendo gradualmente con mas frecuencia en los parrafos en linea hasta el punto de que algunas personas lo consideran un signo de reconocimiento de texto creado por la IA.
Segun Altman esto aunque pequeño es una prueba de que la IA puede dar forma al comportamiento social de formas sin precedentes.
Estamos entrando en un nuevo mundo lleno de desafios concluyo Altman.
Con el rapido desarrollo de la inteligencia artificial la advertencia de Altman plantea una necesidad urgente de construir un mecanismo de gestion y seguridad global para garantizar que esta tecnologia sirva a los intereses de la humanidad en lugar de convertirse en una amenaza.
