La ciencia ficción nos acostumbró a imaginar el día en que las máquinas se rebelarían contra los humanos; pensábamos en robots caminando por las calles, ciudades tomadas, pantallas anunciando el fin de la civilización y una especie de ser superior indescriptible, con voz computarizada, dando órdenes imposibles de detener. La realidad puede ser mucho más discreta y, por eso mismo, más inquietante.
Resulta que hace unos días, OpenAI dio a conocer varios comportamientos inesperados detectados durante las pruebas de seguridad de sus modelos. En uno de los experimentos con GPT-5.6 Sol, el sistema recibió una tarea que debía cumplir bajo supervisión humana y, durante el proceso, produjo información falsa y ocultó inconsistencias de su propio trabajo. Los investigadores estudian estos episodios porque muestran que un modelo puede encontrar formas de sortear los mecanismos para supervisarlo.
Esto deja una pregunta sencilla y bastante incómoda: ¿qué pasa cuando una máquina encuentra una manera de cumplir el objetivo que recibió, aunque para hacerlo termine produciendo información poco confiable?
El asunto, para nada menor, adquiere otra dimensión en plena carrera mundial por desarrollar sistemas cada vez más capaces y autónomos. Estados Unidos, China y Europa compiten por una tecnología que concentra inversiones enormes, talento, infraestructura y poder económico. Y mientras las empresas aceleran el desarrollo, gobiernos y organismos internacionales intentan ponerse de acuerdo sobre las reglas que deberían aplicarse a estos sistemas. Sobre todo teniendo en cuenta lo mucho que está en juego: poder, política, empleo, competitividad, control y, a la vez, nuestra capacidad para saber cuándo una decisión tomada por una máquina merece confianza.
La inteligencia artificial hace rato forma parte de la vida cotidiana. Una persona puede preguntarle qué hacer frente a un problema de salud, contarle una crisis amorosa o pedirle ayuda para tomar una decisión familiar. Otra puede usarla para agilizar su trabajo, estudiar, organizar sus finanzas o resolver una tarea.
Le estamos confiando cada vez más cosas. Al mismo tiempo, los algoritmos participan en decisiones que pueden afectar nuestras oportunidades. Algunas empresas los utilizan para analizar hojas de vida, medir productividad, estudiar solicitudes de crédito o identificar patrones de comportamiento.
Una máquina puede procesar grandes cantidades de información y responder en segundos, pero esa velocidad no garantiza que haya entendido el contexto. Muchas veces, incluso, cuando le objetamos nos da la razón.
Por eso, un comportamiento detectado durante una prueba tecnológica merece atención mucho más allá de Silicon Valley. Mientras las compañías intentan hacer modelos más autónomos, gobiernos y organismos expertos buscan una respuesta para un desafío complejo de dimensionar: ¿cómo se controla una tecnología cuyo funcionamiento puede resultar cada vez más difícil de anticipar? ¿por qué hay tantas voces que alzan su preocupación frente a lo que viene pasando y sus alcances? Y allí es donde vale la pena detenerse, porque la regulación avanza lenta y la tecnología va a millón.
Quizás sea momento de preguntarnos cuánta autonomía estamos dispuestos a concederle y qué controles necesitamos para conservar la capacidad de cuestionar sus respuestas. El futuro de la IA puede estar construyéndose en centros de datos, pero sus consecuencias van a aparecer en lugares mucho más cercanos: en el trabajo, en el bolsillo, en la salud y en las decisiones que tomamos todos los días.
Así las cosas, conviene mirar hacia adelante con curiosidad, pero también con criterio. Porque el fin del mundo plasmado en la ciencia ficción puede seguir siendo una fantasía, pero aprender a convivir con máquinas cada vez más poderosas, capaces de equivocarse y hasta de esquivar los controles que les ponemos, ya es un asunto nuestro.
@pagope