Por: Basthián C.
La renuncia de Jacob Coxon, investigador de Anthropic, una de las compañías que se encuentran en la frontera del desarrollo de inteligencia artificial, debería detenernos por un momento. No porque abandone una tecnología en la que haya dejado de creer. Más bien por lo contrario: su preocupación surge precisamente de la velocidad con que esta tecnología está avanzando.
Coxon ha advertido sobre un problema que comienza a ocupar un lugar cada vez más relevante en la discusión sobre inteligencia artificial: estamos construyendo sistemas progresivamente más capaces y autónomos sin saber todavía con suficiente certeza cómo garantizar que permanezcan bajo control humano.
Puede parecer una discusión propia de un futuro lejano. Tal vez no lo sea.
Durante los últimos años, la conversación pública sobre inteligencia artificial ha estado dominada por sus promesas: mayor productividad, automatización de tareas, nuevos medicamentos, mejores predicciones, reducción de costos y nuevas oportunidades de negocio. Y muchas de esas promesas ya se están convirtiendo en realidad.
Pero hay otra conversación que comienza a imponerse.
¿Qué ocurre cuando la inteligencia artificial deja de ser simplemente una herramienta que responde a nuestras instrucciones y comienza a ejecutar acciones por sí misma?
La diferencia no es menor. Un chatbot responde. Un agente de inteligencia artificial puede planificar una secuencia de acciones, utilizar herramientas, escribir y ejecutar código, navegar por sistemas, comunicarse con otros programas y desarrollar tareas durante períodos prolongados con distintos grados de supervisión humana.
Y si estos sistemas comienzan, además, a participar en el desarrollo y optimización de nuevas generaciones de inteligencia artificial, la pregunta adquiere otra dimensión: ¿Qué sucede si la velocidad con que somos capaces de construir sistemas cada vez más sofisticados supera nuestra capacidad para comprenderlos, evaluarlos y supervisarlos?
Aquí aparece una paradoja incómoda.
El problema puede no ser solamente tecnológico. Puede ser, sobre todo, económico.
OpenAI, Anthropic, Google, Meta y otras compañías compiten por desarrollar los modelos más avanzados. Las inversiones son enormes y las ventajas comerciales potenciales, también. En semejante escenario, pedirle a una empresa que avance más lentamente por razones de seguridad puede chocar con un incentivo muy poderoso: si una compañía decide frenar mientras sus competidores continúan acelerando, puede quedar en desventaja.
Es un viejo problema de incentivos llevado a una tecnología completamente nueva: todos podrían beneficiarse de un desarrollo más seguro, pero ninguno quiere ser necesariamente el primero en reducir la velocidad.
Por eso resulta insuficiente pensar que la seguridad de la inteligencia artificial puede depender exclusivamente de la prudencia o la buena voluntad de las empresas que la desarrollan.
En otras industrias hemos aprendido esa lección hace mucho tiempo. La aviación, la industria farmacéutica y la energía nuclear generan enormes beneficios, pero precisamente porque sus riesgos pueden ser significativos no dejamos su regulación únicamente en manos de quienes tienen intereses económicos en desarrollarlas. Existen estándares, evaluaciones, organismos supervisores y mecanismos de responsabilidad.
La inteligencia artificial plantea un desafío similar, aunque con una diferencia fundamental: su velocidad de evolución puede ser mucho mayor que la de las instituciones encargadas de comprenderla y regularla.
Eso debería preocuparnos.
No significa detener la innovación. Tampoco significa asumir que las predicciones más extremas sobre una inteligencia artificial que escape completamente al control humano necesariamente ocurrirán. Esos escenarios siguen siendo hipótesis, no hechos comprobados.
Pero reconocer que una catástrofe no es inevitable no implica que debamos ignorar los riesgos.
Esperar a que ocurra un accidente grave para comenzar a establecer reglas sería una forma particularmente irresponsable de gobernar una tecnología de esta magnitud.
La pregunta, entonces, ya no es si debemos desarrollar inteligencia artificial. En la práctica, esa decisión ya fue tomada por gobiernos, empresas, investigadores y millones de usuarios.
La pregunta verdaderamente importante es otra: ¿Quién controla a quienes están construyendo sistemas cada vez más capaces de actuar por nosotros?
Y, más profundamente todavía: ¿Qué mecanismos tendremos para controlar esos sistemas cuando sus capacidades superen nuestra capacidad de comprenderlas?
Ahí está el verdadero debate.
La inteligencia artificial no necesita ser demonizada para exigir supervisión. Tampoco necesitamos creer en escenarios apocalípticos para aceptar que una tecnología con semejante potencial requiere reglas proporcionales a su poder.
Quizás esa sea la lección más relevante detrás de la renuncia de quienes trabajan en la frontera de esta industria. Cuando incluso personas que participan directamente en la construcción de estos sistemas advierten que la velocidad puede estar superando nuestra capacidad de control, no estamos obligados a compartir todas sus predicciones.
Pero sí tenemos buenas razones para escuchar.
Porque la pregunta ya no es solamente qué será capaz de hacer la inteligencia artificial.
La pregunta es quién decidirá qué puede hacer, bajo qué condiciones y, sobre todo, quién tendrá la capacidad de decirle que no.
&Fcc
Para cualquier comunicación, entrega de antecedentes de forma privada o denuncia,
a través del teléfono +56 9 9841 47462, WhatsApp +56 9 6419 5500, o al correo contacto@noticiascomunitarias.cl
"Para pensar, comentar y compartir"