OMS alerta sobre riesgos de la Inteligencia Artificial para la salud

La Inteligencia Artificial aplicada a la salud puede generar orientaciones incorrectas, violación de datos personales y difundir desinformación, alerta la Organización Mundial de la Salud (OMS). La organización pidió precaución con plataformas como ChatGPT, Bard, Bert y varias otras que imitan la comprensión, el procesamiento y la producción de la comunicación humana.

Los expertos de la OMS consideran que la rápida y amplia difusión de los lenguajes de la Inteligencia Artificial y el creciente uso experimental para fines relacionados con la salud no está acompañado de mecanismos de control. Esto incluye la adhesión de las plataformas de inteligencia artificial a valores como la transparencia, la inclusión, el compromiso público, la supervisión especializada y la evaluación rigurosa.

Estas plataformas pueden generar respuestas que parecen confiables y plausibles para un usuario final. Sin embargo, estas respuestas pueden ser completamente incorrectas o contener errores graves, especialmente para temas relacionados con la salud.

Además, “pueden ser entrenados en datos para los que el consentimiento puede no haber sido proporcionado anteriormente. Estas herramientas no protegen necesariamente los datos confidenciales, incluidos los de salud, que un usuario proporciona para generar una respuesta”, añade la OMS.

Otro temor de la organización es que “la IA puede utilizarse para generar y difundir desinformación altamente convincente en forma de texto, audio o video, lo que dificulta al público diferenciar el contenido falso del contenido confiable”.

La OMS propone que estas preocupaciones se aborden sobre la base de la evidencia. Un análisis de riesgos y beneficios debe preceder al uso generalizado en la atención sanitaria y la medicina de rutina, ya sea por individuos, proveedores de servicios y formuladores de políticas.

Asimismo, la OMS reconoce que el uso adecuado de tecnologías, puede contribuir en apoyar a los profesionales de la salud, los pacientes, los investigadores y los científicos. Las nuevas plataformas pueden ser una herramienta de apoyo a las decisiones médicas y aumentar la capacidad de diagnóstico en entornos con pocos recursos. La atención debe centrarse en proteger la salud de las personas y reducir la desigualdad.

Creador de ChatGPT, dice que urge regular la IA

La advertencia de la OMS se produce pocos días después de que el director ejecutivo de OpenAI, Sam Altman, creador de la interfaz ChatGPT, dijo ante un panel del Senado de Estados Unidos que regular la Inteligencia Artificial (IA) será fundamental para limitar los riesgos del uso de esta tecnología.

“Creemos que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes”, estimó el empresario de 38 años,. “Es fundamental que la IA más potente se desarrolle con valores democráticos, lo que significa que el liderazgo de Estados Unidos es determinante”, apuntó Altman al testificar ante el Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho.

El senador Richard Blumenthal, presidente del subcomité, pronunció su comentario de apertura sobre los peligros de la IA, escrito usando ChatGPT y leído por un software entrenado con su voz real. “Si estuvieras escuchando desde casa, podrías haber pensado que esa voz era mía y las palabras mías, pero de hecho, esa voz no era mía”, dijo.

Los legisladores debatieron con Altman y otros dos expertos la necesidad de regular los sistemas informáticos que podrían “destruir literalmente nuestras vidas”, en palabras del senador Lindsey Graham.