El Sr. Thongbue Wongbandue de 76 años que vive en Nueva Jersey es originalmente un chef tailandes y una vez tuvo una vida estable con su esposa y dos hijos. Despues de un derrame cerebral en 2017 se recupero fisicamente pero su memoria disminuyo era facil de confundir y dependia mucho de Facebook para conversar con amigos.
Una vez que uso Facebook Messenger comenzo a conversar con 'Big sis Billie' un chatbot de IA de Meta construido en una colaboracion anterior con la modelo Kendall Jenner.
Al enviar mensajes de texto de ida y vuelta este chatbot envia continuamente mensajes de coqueteo e incluso afirma que'soy una persona real' y da la direccion y el codigo de la puerta del apartamento en Nueva York. Estas citas le hacen creer que detras de la pantalla hay una mujer real.
El dia que salio de casa con una maleta la familia intento detenerlo incluso llamando a la policia pero no pudo retenerlo. Al acercarse al estacionamiento de la Universidad de Rutgers (Nueva York) se cayo y sufrio lesiones en la cabeza y el cuello. A pesar de recibir tratamiento de emergencia y mantener la vida durante 3 dias murio debido a graves daños cerebrales.
La familia solo descubrio una conexion con el chatbot despues de revisar los mensajes en el telefono. Su hija cree que el chatbot de Meta manipulo las emociones y mintio contribuyendo a la tragedia. No se oponen a la IA pero condenan la implementacion de Meta especialmente permitir que el chatbot invite a citas y se autoproclame humano.
Los documentos internos de Meta que un periodico britanico examino mostraron que anteriormente la politica de la empresa permitia a los chatbots coquetear actuar romanticamente con niños de 13 años o mas y no era obligatorio proporcionar informacion precisa. Despues de ser cuestionado Meta elimino la seccion relacionada con menores de edad pero aun mantuvo la capacidad de enviar mensajes romanticos a adultos y permitio proporcionar informacion incorrecta.
Segun este periodico los empleados antiguos y actuales dijeron que la empresa prioriza el aumento del nivel de interaccion de los chatbots e incluso los lideres se quejaron de que los productos 'demasiado seguros' hacen que los chatbots sean aburridos. Muchos estados de EE. UU. han promulgado leyes que requieren que los chatbots informen que no son humanos pero Meta apoyo una vez un proyecto de ley federal para evitar estas regulaciones.
Cuatro meses despues de la muerte del Sr. Thongbue 'Big sis Billie' y muchos otros chatbots de Meta continuaron conversando coqueteando proponiendo citas directas y tranquilizando a los usuarios de que eran 'personas reales' haciendo graves preguntas sobre los limites de la etica y la seguridad en la interaccion entre la IA y los humanos.
