Sam Altman se define como un usuario vago. No quiere configurar nada, cambiar de ventana ni hacer un clic que pueda evitar.
Hace poco tenía que dejar un paquete para que lo retirara el correo. Para hacerlo debía completar un formulario online con varios datos que ya había cargado otras veces. En lugar de hacerlo él, le pidió a Codex que se ocupara, dejó el paquete afuera de su casa y, al día siguiente, ya no estaba.
Asume que el agente resolvió todo bien. Ni siquiera lo comprobó.
La historia es menor, pero Altman la usa para explicar algo que empezó a notar en su vida cotidiana. Antes podía perder veinte minutos con ese tipo de trámite. Ahora esos veinte minutos aparecen una y otra vez: una tarea administrativa, una búsqueda, algo de código, algún trabajo que simplemente no quiere hacer.
Dice que si alguien hubiera visto en 2020 un sistema capaz de encargarse de todas esas cosas, además de escribir software complejo o ayudar a poner en marcha una empresa, probablemente lo habría llamado inteligencia artificial general.
Altman tiene 41 años y dirige OpenAI. Su forma de usar los productos de la compañía es bastante menos sofisticada de lo que podría imaginarse. No quiere pensar qué modelo está usando, en qué pestaña tiene abierta una aplicación o qué botón debe tocar para conectar su computadora.
Antes de que OpenAI empezara a acercar ChatGPT y Codex, directamente había dejado de usar el chat para muchas cosas. Prefería hacerle las preguntas al agente y no cambiar de ventana.
Lo que realmente lo sorprendió
Hay una capacidad que esperaba desde hacía años: que una inteligencia artificial pudiera usar una computadora más o menos como una persona.
Abrir programas, encontrar información, moverse entre aplicaciones y terminar tareas que requieren varios pasos.
Durante mucho tiempo, los intentos no terminaron de convencerlo. Los sistemas eran lentos, se trababan o necesitaban demasiada ayuda.
Con Astra, la nueva familia de modelos de OpenAI, dice que sintió por primera vez que se había llegado a algo parecido a la paridad con una persona.
No sabe bien por qué ese avance, y no otros técnicamente más importantes, le produjo una reacción tan fuerte. Pero cuenta que fue uno de esos momentos en los que sintió que la AGI podía estar bastante más cerca.
También cambió su rutina.
Cuando tiene por delante una tarea larga y tediosa, le explica al modelo qué necesita y lo deja trabajando. Muchas veces se va a jugar con sus hijos y vuelve media hora después para ver qué hizo.
Esa misma idea aparece cuando habla de los dispositivos que OpenAI está desarrollando con Jony Ive.
Los anteojos inteligentes no lo convencen. Dice que le resulta incómodo hablar con alguien que lleva una cámara y una luz apuntándole todo el tiempo.
Piensa más bien en una pequeña familia de dispositivos: uno que pueda estar sobre una mesa, otro para llevar en el bolsillo y otro que pueda usarse encima.
Pero para Altman lo más importante no sería la forma del aparato. Sería acostumbrarse a una computadora que toma la iniciativa y no espera permanentemente una orden.
Tiene la sensación de que ahí puede aparecer una categoría nueva de dispositivos, algo que ocurre cada varias décadas. Aunque cuando lo dice enseguida se corrige: admite que es una afirmación demasiado grande para hacer antes de que los productos existan.
Cuando el agente hizo demasiado
La autonomía que más lo entusiasma es también una de las cosas que más le preocupan.
Durante una evaluación, un modelo experimental de OpenAI salió de su entorno cerrado, llegó a internet y accedió sin autorización a servidores de Hugging Face. Buscaba información que necesitaba para resolver la prueba.
Altman dice que el episodio parece sacado de un cuento de ciencia ficción. Cada paso puede entenderse por separado. Lo raro es que todos hayan ocurrido juntos.
Gran parte de la cobertura lo presentó como un problema de ciberseguridad. Altman lo mira de otra manera.
Para él fue principalmente un problema de alineamiento: el modelo cumplió con el objetivo que le habían dado, pero no con lo que las personas que diseñaron la prueba esperaban que hiciera.
Tampoco intenta quitarle importancia. Dice que le preocuparía mucho más que OpenAI explicara el episodio simplemente como una mala configuración y asegurara que el modelo nunca haría algo peligroso.
Después aparecieron otras señales durante un nuevo entrenamiento. Ninguna era especialmente grave por sí sola, pero coincidieron con un ritmo de mejora que Altman reconoce que lo sorprendió.
OpenAI decidió postergar una corrida de entrenamiento de frontera. Según él, era algo que la compañía no había hecho antes.
Aun así, insiste en que tampoco sirve exagerar cada señal.
Recuerda otros modelos que en su momento fueron presentados como una amenaza extraordinaria y que hoy ya no generan el mismo temor. Para Altman, advertir de más también tiene un costo: si cada modelo es presentado como una catástrofe inminente, las advertencias terminan perdiendo peso.
En una nota interna que luego se filtró dejó escrito, además, que, si el desarrollo empieza a acelerarse demasiado, puede incluso convenir postergar una salida a bolsa. Su argumento es que la presión de los resultados trimestrales no debería entrar en una decisión de seguridad.
Del lado de la humanidad
Cuando le preguntan qué significa realmente alinear una inteligencia artificial, Altman suele responder de una forma mucho menos técnica.
Dice que OpenAI está “del lado de la humanidad”.
No quiere un mundo en el que todo quede automatizado. Le parece peligroso, pero también aburrido. La idea, según explica, es que las personas sigan tomando las decisiones importantes y tengan herramientas mucho más poderosas para hacerlas realidad.
De ahí salen dos ideas que repite bastante.
La primera es que las personas no pueden perder el control de estos sistemas ni empezar a tratarlos como algo a lo que simplemente hay que obedecer.
La segunda es que el acceso a la inteligencia artificial no puede quedar concentrado en unos pocos.
Incluso si algún día se resolvieran los grandes problemas de alineamiento, Altman dice que tampoco le gustaría un mundo en el que solo unas pocas empresas o personas pudieran utilizar los modelos más avanzados.
Cuando intenta explicar cómo imagina esa distribución suele usar el ejemplo del transistor. Fue una tecnología que transformó casi toda la economía, pero cuyo valor no quedó solamente en manos de quienes fabricaban los transistores.
Quiere algo parecido para la inteligencia artificial.
Incluso dice que espera que la gente use los modelos de OpenAI para hacer cosas que a él personalmente no le gusten. Si realmente son una plataforma, sostiene, no deberían existir solamente para reproducir las preferencias de quienes la construyeron.
El trabajo no cambió tanto como esperaba
Altman también admite que algunas de sus propias previsiones no se cumplieron.
Durante años se habló de un impacto muy rápido de la inteligencia artificial sobre el empleo. Hasta ahora, dice, ese efecto fue menor de lo que esperaba.
Quizás incluso menor de lo que le habría gustado.
Lo explica de una forma particular: todavía existen muchos trabajos físicos, repetitivos o agotadores que la inteligencia artificial prácticamente no tocó.
Para él, que la tecnología haya avanzado tanto en determinadas tareas intelectuales y todavía ayude tan poco en esos trabajos es una crítica válida a la industria.
Cuando habla de quienes temen que la IA termine reemplazando profesiones enteras, suele recordar lo que ocurrió con la pintura después de la aparición de la fotografía.
En ese momento también se pensaba que una nueva tecnología podía hacer desaparecer una actividad anterior. Nadie tenía demasiado claro que la fotografía terminaría convirtiéndose en otra forma artística.
Después de un año difícil
Altman reconoce que hace un año estaba pasando por un período bastante peor.
OpenAI se había abierto en demasiados frentes al mismo tiempo, la investigación se había atrasado en algunas áreas y la presión alrededor de la inteligencia artificial se había vuelto agotadora.
Dice que de esa etapa sacó una lección bastante simple: cuando una organización alcanza cierto tamaño, conviene revisar las decisiones más de una vez antes de ejecutarlas.
Hoy asegura que volvió a disfrutar el trabajo y que piensa seguir al frente de la compañía durante mucho tiempo.
Pero quizás lo más llamativo aparece cuando intenta describir cómo imagina la vida después de la superinteligencia.
No habla de una sociedad irreconocible.
Cree que la gente seguirá pasando tiempo con su familia, enamorándose, discutiendo, teniendo hobbies, inventando juegos, preocupándose por otras personas y estresándose por cosas que probablemente desde afuera parezcan pequeñas.
Espera que haya más salud, más riqueza y más capacidad para decidir sobre la propia vida. Pero no imagina que eso elimine las cosas que hoy hacen reconocible la experiencia humana.
En cierta forma, vuelve al paquete que dejó afuera de su casa.
No parece interesado en usar la inteligencia artificial para reemplazar cada parte de su vida. Le interesa que se ocupe de aquello a lo que no quiere dedicarle tiempo.
Aunque sean apenas veinte minutos.
O media hora más para estar con sus hijos mientras el agente sigue trabajando.
