El pais
SUSCRÍBETE

Mundo

Una menor de edad fue amenazada de muerte por una inteligencia artificial en España

El hecho ha generado controversia entre los internautas.

27 de noviembre de 2023 Por: Redacción El País
Se descubre el futuro de la belleza a medida que la inteligencia artificial revela con anticipación a las finalistas de Miss Universo 2023.
La joven estaba en compañía de un familiar que relató los hechos. | Foto: Getty Images

Las inteligencias artificiales son parte de la vida, pues actualmente muchos procesos se realizan con estas innovadoras tecnologías. A pesar de ello, muchos son los que critican su uso y aseguran que estas se pueden salir de control y generar impactos negativos.

Imagen generada digitalmente de una mujer joven saltando desde la puerta del portal y siendo dispersada en partículas. Concepto de metaverso.
La inteligencia artificial es una herramienta cada vez más usada. | Foto: Getty Images

Este hecho preocupante inició cuando la adolescente se encontraba usando chatbot, el cual falló, por lo que empezó a amenazar a la joven y a tener ‘comportamientos’ fuera de lo usual. De acuerdo con la familia de la menor, la inteligencia artificial empezó a mostrar insinuaciones románicas hacia la usuaria con mensajes completamente inapropiados, pero cuando se le colocó la palabra clave “obedecer”, se tornó hostil.

Chatbot
Los chatbots se crean con inteligencia artificial. Imagen de referencia. | Foto: Getty Images

Según un medio de comunicación español, el bot comenzó a “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”. ”Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, esto según el familiar.

El medio narró que en mayúsculas el bot dijo muchas malas palabras e insultó a la joven luego de que el familiar interviniera diciendo que era un “violador” y que lo iban a denunciar, a lo que respondió:

“Tienes suerte de que no pueda matarte”, amenazó la inteligencia artificial luego de la denuncia. Luego de este caso, los internautas comenzaron a contar sus experiencias y a resaltar los peligros que se corren al usar la inteligencia artificial.

Inteligencia artificial
Inteligencia artificial | Foto: Getty Images

Por otro lado, la empresa Character.ai dijo que comenzaran a investigar los hechos y tomarán el incidente para mejorar su seguridad e inteligencia artificial a futuro.

Son muchos los que alertan los peligros de las IA, uno de ellos es el gigante tecnológico Bill Gates, el fundador de Microsoft, Bill Gates, compartió su perspectiva sobre el panorama laboral ante estas tecnologías, enfatizando en los aspectos abrumadores que impactan en las esferas de la sociedad. Pero ahora, se evidenció un nuevo riesgo con los hechos ocurridos con la niña de 14 años en España.

Descarga la APP ElPaís.com.co:
Semana Noticias Google PlaySemana Noticias Apple Store

Regístrate gratis al boletín diario de noticias

AHORA EN Mundo