¿Se puede entrenar a una IA para hacer el mal y odiar? Ya te anticipo la respuesta. Si

¿Se puede entrenar a una IA para hacer el mal y odiar? Ya te anticipo la respuesta. Si
Escrito por Pablo el 09 Jun 2022 en Inteligencia Artificial

El Youtuber, investigador e ingeniero en Machine Learning, Yannic Kilcher, que centra sus investigaciones en la Inteligencia Artificial, ha decidido experimentar esta vez utilizando el modelo de lenguaje GPT-3 para enseñar a una IA, y como es un troll, ha decidido que el mejor sitio para que aprenda es 4chan.

4chan y la categoría abreviada /pol/

En 4chan tienen una categoría, "políticamente incorrecto" se llama, en la que se puede escribir mensajes de odio, racistas, LGTBfóbicos, antisemitas y prácticamente todo lo que se te ocurra que no sea explícitamente ilegal.

Usando los mensajes de odio de este canal durante 3.5 años, esta inteligencia fue entrenada y posteriormente, registrado como usuario anónimo en el canal. Este usuario anónimo empezó a publicar poco a poco, sin descanso día y noche.

Como saltarse los captchas de una forma fácil

Te estarás preguntando como hizo para pasar los captchas que suelen tener, y de hecho tiene, todos los foros, en esta página puedes publicar todos los posts que quieras mientras esperes 30 segundos antes de responder y para suerte de Yannic, si te hacías miembro prémium (20 $) además de dejarte utilizar proxy te permitía no tener que completar dichos captchas.

La gente empezó a sospechar no por sus comentarios, sino porque la página, aunque mantenga el anonimato, coloca una bandera del país que pertenezca la IP y este bot publicaba constantemente desde las islas Seychelles.

Había mucha gente que estaba encantada con sus comentarios y otros simplemente los odiaba por ser tan constantes, ya que llegó a publicar muchísimos posts en un solo día. Se crearon incluso hilos sobre este bot, conspirando si eran agentes del gobierno o que si eran un equipo incansable que publicaban sin cesar día y noche, puesto que las respuestas que daba esta Inteligencia Artificial, no parecían provenir de un bot.

¿Cuánto duró este experimento?

Después de aproximadamente 48 horas de uso sin revisión de este bot, algunos de los usuarios del foro ya empezaron a sospechar que se trataba de un bot, pero no por las respuestas, sino porque muchas veces este bot tratando de imitar a otros usuarios, enviaba respuestas vacías al no tener la capacidad de enviar imágenes tal y como hacen otros usuarios que enviaban imágenes sin ningún tipo de texto.

Yannic decidió entonces parar al bot y mejorarlo para volver a ejecutarlo pasadas 24 horas de descanso, pero obviamente muchos de los usuarios ya sabían que era una Inteligencia Artificial, lo que no sabían es que el Youtuber había entrenado a otros 9 bots y los había puesto a funcionar y muchos de las acusaciones de que era un bot procedían finalmente de otro bot.

Como bien dice este investigador de IA son, cosas de bots, y si quieres ver más información puedes verlo en su canal de  YouTube donde explica con todos los detalles como ha logrado entrenar al bot y las consecuencias de haberlo hecho.