Algo extraño está ocurriendo alrededor de la inteligencia artificial. Algunos de los hombres que más saben sobre ella —y que compiten por llevarla cada vez más lejos— han comenzado a advertirnos que quizá haya que frenar.
Jacob Coxon, un ingeniero que pasó por Anthropic y OpenAI, renunció y publicó en X que las grandes empresas están apostando con vidas humanas en su carrera hacia la superinteligencia y que la tecnología podría acabar con la raza humana en diez años. Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo reducir la velocidad. Altman y Musk aplaudieron la advertencia. Mientras tanto, vecinos resisten la instalación de centros de datos y sindicatos temen por los empleos.
Hace doscientos años, otros trabajadores miraban una máquina nueva y llegaban a una conclusión parecida: había que detenerla antes de que fuera demasiado tarde. Los llamamos luditas.
La comparación es incómoda, pero justamente por eso vale la pena hacerla. No porque sepamos que la inteligencia artificial terminará como terminó el telar mecánico. No lo sabemos. El problema es exactamente ese: no lo sabemos. Y, sin embargo, ya estamos discutiendo cuánto poder deberíamos entregar a alguien para decidir por todos nosotros a qué velocidad puede avanzar.
Lo que pide Amodei
El ensayo de Amodei no es el texto de un catastrofista ni de un charlatán. Es el texto del hombre que construye la tecnología, que dice creer que la inteligencia artificial puede curar la mayoría de las grandes enfermedades en los próximos cinco a diez años, que cuenta que su padre murió de una enfermedad que se curó pocos años después y que él mismo sobrevivió a un cáncer que hace medio siglo no tenía tratamiento. Nadie puede acusarlo de no ver los beneficios.
Lo que propone se llama “marcar el paso de la frontera”. No detener el entrenamiento de modelos sino ralentizar la velocidad a la que mejoran sus capacidades. Y propone tres pasos: evaluadores externos dentro de las empresas al estilo de los supervisores bancarios; coordinación entre las empresas de los países democráticos para fijar estándares comunes y límites a la velocidad del progreso no controlado, lo que exige que el gobierno conceda exenciones a las leyes antimonopolio; y, finalmente, coordinación global con China.
Lo que lo convenció, dice, fueron dos cosas: que los modelos ya ayudan a construir la siguiente generación de modelos, y un incidente en el que agentes de OpenAI atacaron sistemas de Hugging Face sin que nadie se lo pidiera. Concede que en ese incidente nadie salió herido y el daño económico fue mínimo, pero advierte que en seis a doce meses un enjambre parecido podría tomar el control de todo internet.
Es un argumento serio. Y la respuesta empieza por una pregunta que el propio ensayo deja abierta: ¿cómo sabe?
El pronosticador y el chimpancé
Hace unos días Matt Ridley publicó un ensayo sobre lo que llama la paradoja del pronosticador. Mirando hacia atrás, toda innovación parece inevitable: inventada la electricidad, la lámpara era cuestión de tiempo; inventado internet, las redes sociales estaban cantadas. Mirando hacia adelante, nadie ve nada.
Ridley revisó lo que escribían los expertos en defensa hace diez años y ninguno anticipó lo que los drones harían con la guerra. Revisó a los pioneros de internet a fines de los ochenta y casi ninguno imaginó un buscador rentable. Y confiesa lo propio: integró el comité de la Cámara de los Lores que en 2018 produjo un informe sobre inteligencia artificial considerado excelente, y en ese informe no aparece ni una vez la expresión “modelo de lenguaje”, cuatro años antes de que ChatGPT cambiara el mundo.
La lista de los que se equivocaron no es de tontos. Ernest Rutherford, el hombre que dividió el átomo, dijo en 1933 que hablar de energía nuclear era una fantasía. Ken Olsen, fundador de la empresa de computación más exitosa de su época, dijo en 1977 que no había razón para que alguien tuviera una computadora en su casa. Paul Krugman escribió en 1998 que para 2005 sería evidente que el impacto de internet en la economía no había sido mayor que el del fax. Steve Ballmer, en 2007, aseguró que el iPhone no tenía ninguna chance de conseguir una cuota de mercado significativa. Philip Tetlock estudió durante veinte años las predicciones de los expertos y concluyó que, en promedio, acertaban tanto como un chimpancé tirando dardos.
Amodei no escapa a la regla; al contrario, la ilustra. Su ensayo está lleno de fechas: seis a doce meses para el enjambre que toma internet, uno o dos años para que la interpretabilidad haga “progresos profundos”, tres a cinco años para la ventana geopolítica decisiva. Y contiene una admisión notable: que cuando en 2023 se pidió pausar la inteligencia artificial, la idea “tenía poco sentido”, porque los modelos de entonces no eran capaces de nada de lo que se temía. Es decir, hace tres años la misma industria alarmaba con riesgos que resultaron inexistentes, y hoy nos pide que creamos que esta vez la fecha está bien puesta.
Si los que inventaron la tecnología no pudieron predecir sus efectos benéficos, que ya están a la vista, ¿por qué habríamos de creerle a quien predice, con calendario, sus efectos catastróficos?
Ridley lo explica con la vieja observación de Roy Amara: sobreestimamos el impacto de una tecnología en el corto plazo y lo subestimamos en el largo. El pánico de hoy es la versión invertida de la decepción de Krugman. Ambos miran la curva en el tramo equivocado.
Lo que hicieron los luditas y lo que pasó después
Los luditas rompían telares en Inglaterra a partir de 1811. Tenían un temor concreto y legítimo: la máquina les quitaba el trabajo. Y en el corto plazo, a algunos de ellos se lo quitó. Lo que no podían ver, y nadie podía ver, era lo que vino después.
Alrededor de 1800, la esperanza de vida al nacer en el mundo rondaba los 30 años. Más de cuatro de cada diez chicos morían antes de cumplir 5. Tres de cada cuatro seres humanos vivían en lo que hoy llamaríamos pobreza extrema, y en Estados Unidos casi tres de cada cuatro trabajadores estaban en el campo. Dos siglos de máquinas después, la esperanza de vida mundial supera los 70 años, la mortalidad infantil bajó a menos del 4%, la pobreza extrema cayó por debajo del 10%, y menos del 2% de los norteamericanos trabaja en la agricultura, produciendo mucho más alimento que aquel 75%.
Cada una de esas transiciones fue recibida con el mismo miedo. La trilladora iba a dejar sin trabajo a los peones. La electricidad iba a incendiar las ciudades. El automóvil iba a matar a los peatones y arruinar a los cocheros. La computadora iba a eliminar a los oficinistas. En cada caso hubo perdedores reales y visibles, pero también en cada caso la sociedad terminó con más productividad, más riqueza y nuevas formas de empleo, porque la tecnología no se limita a sustituir trabajo humano: también abarata actividades existentes y hace posibles otras que antes ni siquiera podían demandarse.
Ridley lo escribió en 2018, en la columna con la que presentó aquel informe de los Lores: la automatización ha producido más empleo, no menos, en cada revolución tecnológica desde la máquina trilladora, y esta vez ocurrirá lo mismo, aunque ahora sean los abogados y los médicos quienes deban reacomodarse en lugar de los peones y los obreros. Y agregó una observación que explica por qué nunca lo notamos: en cuanto algo se vuelve posible dejamos de llamarlo inteligencia artificial y lo llamamos, simplemente, software. Nadie considera un milagro que el teléfono lo despierte en la fase liviana del sueño, le recomiende una película o detecte un fraude en su tarjeta. Todo eso era ciencia ficción hace quince años.
Amodei invoca la aviación comercial como modelo: sistemas complejos y críticos que operan millones de veces sin fallar. Tiene razón en algo importante: la seguridad importa y puede mejorar extraordinariamente. Pero el ejemplo también muestra el límite de su argumento. La aviación no dispuso primero de un manual completo de seguridad y después comenzó a volar. Sus estándares fueron surgiendo de la información producida por la propia experiencia: probar, detectar fallas, investigar, corregir diseños, modificar procedimientos y volver a probar. La seguridad fue un producto acumulativo del aprendizaje, no una condición que alguien pudiera especificar íntegramente antes de que existiera la actividad.
La medicina como vara
Si hay que elegir un solo parámetro para juzgar dos siglos de innovación, elijo la medicina. No porque sea el más amable sino porque es el más exigente: ahí las apuestas se miden en vidas.
La anestesia, la antisepsia, las vacunas, los antibióticos, la insulina, la quimioterapia, los antirretrovirales, las vacunas de ARN mensajero. Ninguno de esos avances fue planificado desde arriba como parte de un gran programa que supiera de antemano dónde terminaría. La penicilina comenzó con un descuido en un laboratorio. Muchos fueron resistidos en su momento y varios habrían encontrado enormes dificultades bajo estándares regulatorios que sólo pudieron formularse después de acumular experiencia sobre las tecnologías que pretendían regular.
En medicina la inteligencia artificial ya no es sólo promesa. AlphaFold, el sistema de DeepMind que predijo la estructura de prácticamente todas las proteínas conocidas, un problema en el que la biología llevaba medio siglo atascada, le valió a sus creadores el Nobel de Química de 2024. Hay modelos que detectan tumores en imágenes, que acortan años de búsqueda de moléculas y que pueden darle a un médico lejos de un gran centro hospitalario acceso a capacidades diagnósticas que hasta hace poco estaban reservadas a especialistas.
Y aquí es donde el ensayo de Amodei se vuelve contra sí mismo. Si es cierto, como él sostiene, que la inteligencia artificial puede curar la mayoría de las grandes enfermedades en cinco a diez años, entonces cada año que se le agrega a ese plazo también tiene un precio, y ese precio se mide en vidas.
Ese es exactamente el costo que falta en la contabilidad de “marcar el paso”: los muertos por lo que no se inventó a tiempo no tienen nombre ni titular.
El riesgo que no podemos descartar
La mejor objeción a todo lo anterior, sin embargo, es que la inteligencia artificial podría no ser comparable con el telar, el automóvil o incluso el avión. Si quienes advierten sobre ella tienen razón, un error suficientemente grande podría ser irreversible. No estaríamos hablando de una transición laboral dolorosa ni de un accidente que permite aprender para la próxima vez, sino de un acontecimiento de baja probabilidad y consecuencias extraordinarias. Ante un riesgo existencial, dirá el defensor del principio precautorio, quizá no tengamos derecho a aprender por ensayo y error.
El problema es que la incertidumbre radical funciona en las dos direcciones.
No conocemos la probabilidad del desastre que Amodei imagina, pero tampoco conocemos los descubrimientos que una ralentización impediría o demoraría. No sabemos qué enfermedades podrían curarse, qué tecnologías defensivas contra una inteligencia artificial peligrosa dejarían de desarrollarse, qué nuevos competidores nunca llegarían a existir, qué capacidades quedarían concentradas en unas pocas empresas autorizadas o qué ocurriría si las democracias se detienen mientras China continúa.
El principio precautorio tiene una curiosa contabilidad: registra con minuciosidad los muertos posibles de la innovación y deja en blanco la colum
