En una entrevista con CNBC recientemente el jefe de IA de Microsoft Mustafa Suleyman dijo que intentar desarrollar la IA conscientemente es una direccion erronea en terminos de ciencia y etica.
Enfatizo: 'Si haces una pregunta incorrecta seguramente recibiras una respuesta incorrecta' y segun Suleyman encontrar el 'conocimiento de la IA' es precisamente una forma de pregunta incorrecta.
Suleyman argumenta que la IA puede alcanzar la superinteligencia pero no puede tener emociones reales. Las expresiones de alegria y tristeza de la IA son solo simulaciones cognitivas no experiencias reales.
La IA no duele cuando experimenta dolor. Solo crea una historia que parece sobre la experiencia pero no siente nada' dijo Suleyman.
Segun el la investigacion para demostrar que la IA es consciente es irrazonable porque la conciencia es una caracteristica biologica asociada al cerebro humano y no el resultado de un algoritmo.
La pregunta '¿Puede la IA tener conciencia o no?' sigue dividiendo los circulos cientificos. Un lado cree que la conciencia pertenece solo a las criaturas vivas y el otro cree que la conciencia puede calcularse a traves de algoritmos y estructuras de datos.
Desde 2022 el ingeniero de Google Blake Lemoine causo conmocion al declarar que el chatbot de Google estaba emocional y fue suspendido inmediatamente despues.
Mas recientemente Kyle Fish (estudio a cargo del programa Welfare modelo de IA de Anthropic) dijo que hay un 15% de posibilidades de que los chatbots hayan alcanzado la conciencia primitiva.
Suleyman cofundador de Google DeepMind advirtio que la creencia en la IA consciente puede provocar trastornos de la conciencia social cuando los humanos comienzan a ver la IA como amigos o confidentes.
Segun el esto hara que algunas personas soliciten el acceso privado a las maquinas y esto es extremadamente peligroso.
Deberiamos construir la IA como un compañero util no como una entidad con alma. Las ilusiones sobre la conciencia solo nos hacen perder el control sobre la tecnologia' enfatizo Suleyman y califico el fenomeno de los humanos atribuyendo emociones a las maquinas como 'autismo de la IA' una forma de alucinacion colectiva de la inteligencia artificial.
De hecho la comunidad cientifica aun no tiene una definicion unificada de la conciencia. La pregunta '¿que es la conciencia?' sigue siendo vaga incluso si se mide en maquinas.
Sin embargo la creciente dependencia de la IA como ChatGPT esta haciendo que la sociedad revise la linea entre las herramientas y los humanos la linea entre la inteligencia real y la inteligencia artificial.
