¿Humano o robot?: Los espeluznantes motivos de la IA para hacerse pasar por una persona real

Recuerda todos los momentos divertidos que compartiste con personas en redes sociales. No los conoces en la vida real, pero la interacción es suficiente para sentirte entre amigos. Ahora, considera la posibilidad de que realmente esas personas no existan: son inteligencias artificiales entrenadas para interactuar contigo. Puede sonar como una película de terror y ciencia ficción, pero ahora es una realidad. ¿Cómo llegamos a este punto y qué puedes hacer para reconocer a los bots IA? Ven con Genial y develemos lo que se esconde detrás de cada perfil.

¿A quién o qué nos enfrentamos?

Con el avance de la inteligencia artificial, un nuevo uso está tomando las redes sociales —literalmente—. Se tratan de los chatbots o bots mejorados con inteligencia artificial, cuya programación genera técnicas de conversación, entiende preguntas y responde automáticamente. Se planea que, en un futuro no muy distante, estos bots puedan comprender modalidades de lenguaje más complejas, adaptarse al tipo de conversación de una persona o mostrar empatía al responder alguna pregunta. Básicamente, intentan emular lo que una persona real diría o sentiría en una conversación.

Un bot en Reddit

El avance de los bots IA suena bien en principio, pero una situación que sucedió hace poco en una red social nos hace ver el peor lado de la tecnología. Se trata de un foro en Reddit llamado r/ChangeMyView, cuya plataforma fue empleada por un grupo de investigadores de Zúrich para introducir bots IA.

La polémica del asunto reside en dos situaciones: los usuarios nunca fueron informados del experimento y las publicaciones de los bots nunca anunciaron su origen artificial. De hecho, los bots se hicieron pasar por víctimas de abuso, especialistas y otro tipo de personajes.

Por otro lado, la investigación concluyó que los bots eran tres o seis veces más persuasivos al momento de intentar cambiar el punto de vista de una persona. Además, se demostró que es posible que dichas inteligencias se mezclen en comunidades, haciéndose pasar por personas reales.

Pero, ¿por qué?

Quizás el lado más grave del problema reside en esto: el bot intenta manipular el discurso sobre un tema en específico y no lo hace solo, ya que muchas veces se une a otros bots para crear una especie de salón cerrado donde todos piensan lo mismo. La manipulación del discurso a veces viene ligada a la propagación de noticias falsas, y casi todos tienen el objetivo de hacer que su grupo cerrado se llena de cada vez más personas manipuladas por el mismo grupo de bots.

¿Cómo lo logran?

Para empezar, los bots recolectan datos de tendencias, hashtags e incluso interacciones entre usuarios reales. Al hacerlo, se nutren de información valiosa para luego imitar la conducta humana. Cuando tienen suficiente con qué trabajar, empiezan a generar contenido variado a cualquier hora del día, de modo que el algoritmo no detecte que son bots. Luego, al recibir retroalimentación del entorno, la inteligencia artificial puede adaptar su comportamiento e integrarse a APIs (mecanismos de comunicación entre sistemas) para programar sus siguientes acciones.

Señales delatoras

Ahora que ya sabes que son los bots IA y cuál es su misión, quizás sea hora de dar un vistazo a las personas con las que interactúas en internet y buscar las señales. Algunas de estas cosas podrían indicar que estás frente a un bot:

• Respuestas automatizadas: aquel contenido que parece programado o que surge sin contexto aparente podría ser contenido generado por un bot.
• Aumento repentino de seguidores: si ves a un usuario que hace un buen tiempo no estaba activo o es reciente y de pronto tiene muchos seguidores, entonces podría ser un bot.
• Generación de spam: si algún usuario suele compartir enlaces, publicidad o contenido nada relevante, también podría tratarse de una inteligencia artificial que finge ser una persona.
• Publicaciones idénticas: si notas que el mismo mensaje o publicación se repite en varias cuentas, lo más seguro es que todos ellos sean bots.
• Falta de interacciones personales: usualmente, los bots no se inmiscuirán en interacciones profundamente personales. Por lo general, los verás concentrados en enviar una ola de mensajes o publicaciones.
• Un perfil incompleto: ve al perfil del usuario que te parece sospechoso. Si la información proporcionada no parece tan personal o personalizada y el nombre del usuario es genérico, lo más seguro es que sea un bot.
• Revisa las interacciones: un bot usualmente se concentrará en hacer mensajes genéricos, mientras que una persona real interactuará con distintas publicaciones o contenidos y sus respuestas serán personalizadas.
• Calidad del contenido: usualmente verás a bots con publicaciones llenas de hashtags o contenido de baja calidad.

Otra herramienta que podría ayudarte es Botometer, una inteligencia artificial diseñada para detectar a los bots que empiezan a tomar las redes sociales. Seguramente algunas otras extensiones podrían ser de gran ayudar si lo que te propones es limpiar por completo tus interacciones, pero recuerda que nada es más efectivo que tu propio criterio. ¿Qué opinas de este uso de la IA? ¿Alguna vez te has topado con un bot que fingía ser humano? ¿Qué fue lo más raro de esa interacción? Comparte con Genial tus experiencias y luchemos juntos por un internet más libre.