En un esfuerzo por controlar el contenido creado por la inteligencia artificial (IA) y las cuentas de bot, Reddit (foro, plataforma de redes sociales) se está preparando para implementar una serie de nuevas medidas de verificación de usuarios, llamadas "prueba de humanidad".
Esta medida refleja la creciente presión sobre las plataformas de redes sociales para garantizar la autenticidad de las discusiones en línea.
Según el CEO de Reddit, Steve Huffman, el nuevo sistema solo se aplicará a las cuentas con signos de comportamiento automático o sospechoso.
El objetivo es asegurar que los usuarios puedan distinguir claramente cuando interactúan con personas reales, en lugar de bots o contenido creado por IA.
En el contexto de la creciente popularidad de la IA, Reddit sigue siendo considerado uno de los pocos foros abiertos donde los usuarios intercambian opiniones sobre muchos temas.
Sin embargo, el aumento de bots y contenido automatizado está deteriorando la calidad de las discusiones, un problema al que también se enfrentan muchas plataformas importantes.
Para solucionarlo, Reddit planea cooperar con terceros para verificar la identidad sin recopilar directamente información personal como nombre real o historial de operaciones.
Las opciones que se están considerando incluyen la autenticación con contraseñas avanzadas, tecnología biométrica e incluso sistemas de identificación proporcionados por el gobierno a través de intermediarios.
Una de las soluciones notables es la tecnología de escaneo de iris perteneciente al sistema World ID, desarrollada por el CEO de OpenAI, Sam Altman.
Esta tecnología permite verificar la identidad del usuario a través de características biométricas, pero también genera preocupaciones sobre la privacidad.
Sin embargo, Reddit afirma que las medidas de verificación solo se aplicarán en casos raros.
Si la cuenta no puede demostrar que esté operada por personas, la plataforma puede aplicar ciertas restricciones. Al mismo tiempo, los bots válidos aún pueden operar, pero deberán etiquetarse claramente como "aplicación".
En particular, Huffman admitió que métodos como la verificación de identidad con documentos personales son "más inseguros, menos privados y menos populares".
Por lo tanto, la empresa se dirige a soluciones a largo plazo descentralizadas, que garanticen la privacidad y no requieran la presentación de documentos de identidad.
Actualmente, Reddit aún no ha tomado medidas enérgicas contra los usuarios que utilizan chatbots de IA para publicar artículos o comentar.
Sin embargo, la implementación de "pruebas de humanidad" muestra que esta plataforma está reforzando gradualmente el control del contenido, en un contexto en el que la frontera entre los humanos y la IA se está volviendo cada vez más tenue en el ciberespacio.
