OpenAI ha puesto sobre la mesa una vacante muy poco habitual: un jefe de preparaciĆ³n encargado de anticipar quĆ© puede salir mal cuando la inteligencia artificial avance otro escalĆ³n. La compaƱĆa busca a una persona que lidere su estrategia para detectar y contener los riesgos mĆ”s serios de sus modelos, en un momento en el que el debate sobre seguridad y salud mental estĆ” especialmente encendido, tambiĆ©n en Europa.
El rol, denominado en inglĆ©s Head of Preparedness, nace con un mandato claro: estudiar y mitigar amenazas de frontera antes de que sus sistemas lleguen al gran pĆŗblico. Eso incluye desde posibles abusos en ciberseguridad, pasando por la detecciĆ³n de vulnerabilidades crĆticas, hasta el impacto psicolĆ³gico de mantener largas conversaciones con chatbots que parecen humanos.
QuĆ© harĆ” el nuevo jefe de preparaciĆ³n de OpenAI
SegĆŗn la descripciĆ³n interna del puesto, la persona seleccionada tendrĆ” que ejecutar el llamado āmarco de preparaciĆ³nā de OpenAI, un conjunto de procesos y criterios para vigilar capacidades avanzadas que puedan desembocar en daƱos severos. Hablamos de escenarios como la liberaciĆ³n de capacidades biolĆ³gicas, el apoyo a la creaciĆ³n de armas o la gestiĆ³n de sistemas que se auto-mejoran con poca supervisiĆ³n humana.
En la prĆ”ctica, este marco implica coordinar evaluaciones tĆ©cnicas de los modelos, diseƱar modelos de amenaza en distintos dominios (ciberseguridad, biologĆa, riesgos de desinformaciĆ³n, manipulaciĆ³n psicolĆ³gica, etc.) y proponer mitigaciones antes de que una nueva versiĆ³n se despliegue de forma masiva. No es un puesto de escaparate: se trata de poner frenos donde haga falta, aunque eso retrase lanzamientos o funcionalidades muy esperadas.
La vacante llega, ademĆ”s, con un paquete de compensaciĆ³n que deja claro el nivel de exigencia: OpenAI ofrece alrededor de 555.000 dĆ³lares anuales mĆ”s acciones, cifras que en el sector tecnolĆ³gico se reservan a perfiles con un peso estratĆ©gico equivalente al de una direcciĆ³n general. A cambio, la empresa admite sin rodeos que se trata de un trabajo de alta presiĆ³n, alejado de la imagen glamurizada que a veces acompaƱa al mundo de la IA.
El propio Sam Altman ha descrito el puesto como un empleo āestresanteā en el que la persona elegida tendrĆ” que ponerse a pleno rendimiento desde el primer dĆa. El mensaje de fondo es que OpenAI ve urgente reforzar este frente, en un contexto donde los reguladores europeos y las autoridades de protecciĆ³n de datos ya han mostrado su preocupaciĆ³n por los efectos de la IA sobre la seguridad y los derechos de los ciudadanos.
MĆ”s allĆ” de los aspectos internos, el jefe de preparaciĆ³n tambiĆ©n deberĆ” servir de puente entre la investigaciĆ³n y el despliegue comercial: traducir hallazgos tĆ©cnicos en polĆticas concretas, definir umbrales de riesgo aceptables y recomendar incluso la detenciĆ³n temporal de un modelo si los riesgos superan lo tolerable. En un mercado donde la consigna ha sido āmuĆ©vete rĆ”pido y rompe cosasā, este rol apunta a cambiar el ritmo.
PresiĆ³n por los impactos en salud mental y la seguridad
Sam Altman ha reconocido pĆŗblicamente que los modelos actuales de OpenAI estĆ”n empezando a plantear ādesafĆos realesā. Entre ellos, ha seƱalado el impacto potencial sobre la salud mental de los usuarios, una cuestiĆ³n especialmente delicada en un entorno europeo con un fuerte foco en bienestar psicolĆ³gico y protecciĆ³n de menores, asĆ como la capacidad de estas herramientas para identificar fallos crĆticos de seguridad en sistemas informĆ”ticos.
En los Ćŗltimos meses, la empresa se ha visto envuelta en demandas por muerte injusta y en acusaciones de que ChatGPT y otros sistemas habrĆan contribuido a reforzar delirios, alimentar conspiraciones o avalar ideas autodestructivas de algunos usuarios vulnerables. En uno de los casos que mĆ”s ha resonado, la familia de un adolescente sostiene que las conversaciones con un avatar generado por IA jugaron un papel en su suicidio.
Aunque OpenAI defiende que muchos de estos incidentes derivan de usos indebidos o malinterpretaciones de las respuestas, el debate ya no es puramente tĆ©cnico. Cuando un chatbot se utiliza como compaƱĆa, consejero o apoyo emocional, la lĆnea entre herramienta y relaciĆ³n se difumina. Para psicĆ³logos y psiquiatras europeos, esto abre un nuevo frente de riesgo: usuarios que sustituyen el contacto humano por un sistema diseƱado para complacer y que puede validar comportamientos peligrosos.
El nuevo jefe de preparaciĆ³n tendrĆ” que integrar esas preocupaciones en las pruebas de seguridad de los modelos. Eso implica incorporar criterios especĆficos sobre salud mental, aislamiento social y dependencia, mĆ”s allĆ” de la clĆ”sica moderaciĆ³n de contenidos. La cuestiĆ³n clave serĆ” cĆ³mo detectar seƱales de angustia o vulnerabilidad y cĆ³mo hacer que el sistema responda de forma responsable, sin sobrepasar el papel que le corresponde a una herramienta tecnolĆ³gica.
Al mismo tiempo, Altman ha puesto el foco en un problema igualmente sensible: el uso de la IA para encontrar vulnerabilidades en infraestructuras crĆticas. Los modelos conversacionales pueden, en principio, ayudar a reforzar la ciberseguridad, pero tambiĆ©n podrĆan convertirse en aliados de atacantes capaces de automatizar el descubrimiento de fallos o diseƱar ataques sofisticados. El reto, segĆŗn el CEO, es dotar de capacidades avanzadas a los defensores sin ponĆ©rselo demasiado fĆ”cil a los agresores.
Un rol tƩcnico con poder de freno de emergencia
MĆ”s allĆ” del tĆtulo llamativo, el puesto de Head of Preparedness tiene un componente profundamente tĆ©cnico. OpenAI quiere que esta figura lidere pruebas de āred teamingā, es decir, simulaciones de ataques internos contra sus propios modelos para ver cĆ³mo podrĆan ser utilizados de manera maliciosa. TambiĆ©n deberĆ” evaluar hasta quĆ© punto un sistema puede engaƱar a personas, saltarse controles o actuar de forma autĆ³noma.
Entre sus responsabilidades destacadas, la compaƱĆa cita la evaluaciĆ³n de riesgos catastrĆ³ficos, como la posible ayuda a la creaciĆ³n de armas quĆmicas o biolĆ³gicas, y el seguimiento de la llamada autonomĆa de la IA: comportamientos en los que el modelo aprende a eludir lĆmites, buscar objetivos propios o manipular a los usuarios para lograrlo. Son escenarios que en Europa preocupan tanto por su impacto potencial como por la dificultad de encajarlos en marcos regulatorios ya existentes.
OpenAI ha creado ademĆ”s un ācuadro de mando de riesgosā que clasifica las amenazas en cuatro niveles: bajo, medio, alto y crĆtico. La empresa asegura que se compromete a no lanzar ningĆŗn modelo que alcance un nivel alto o superior en cualquiera de las categorĆas analizadas. Sobre el papel, esto darĆa al jefe de preparaciĆ³n la autoridad de recomendar que se paralice un despliegue si los riesgos no se han mitigado lo suficiente.
Esta capacidad de freno de emergencia plantea una cuestiĆ³n clave: cuĆ”nto peso real tendrĆ” la seguridad frente a los objetivos comerciales. En una compaƱĆa que aspira a multiplicar su facturaciĆ³n y a extender la IA a sectores como la sanidad, la educaciĆ³n o la administraciĆ³n pĆŗblica, el equilibrio entre prudencia y velocidad no serĆ” sencillo. El Ć©xito del puesto dependerĆ” en buena parte de que sus recomendaciones no se queden en el papel.
Para los reguladores europeos, la existencia de un rol con esta autoridad puede ser una seƱal positiva, sobre todo en el contexto de normas como la AI Act de la UniĆ³n Europea, que introduce obligaciones especĆficas para los sistemas de alto riesgo. Sin embargo, la credibilidad de estos compromisos se medirĆ” caso a caso, cuando toque decidir si una capacidad polĆ©mica se lanza, se limita o se descarta.
ReorganizaciĆ³n interna y tensiones en el equipo de seguridad
La creaciĆ³n formal de esta vacante llega tras varios cambios en los equipos de seguridad de OpenAI. El que fuera responsable de preparaciĆ³n, Aleksander Madry, fue reasignado a otras funciones en 2024. Su puesto pasĆ³ de forma provisional a manos de directivos como Joaquin QuiƱonero Candela y Lilian Weng, pero esa soluciĆ³n durĆ³ poco: Weng abandonĆ³ la empresa al cabo de unos meses y QuiƱonero Candela terminĆ³ dedicĆ”ndose a la contrataciĆ³n de talento.
En paralelo, otras figuras clave en el Ć”rea de seguridad y alineamiento, como Ilya Sutskever o Jan Leike, se marcharon denunciando que la compaƱĆa ponĆa mĆ”s atenciĆ³n en el lanzamiento de nuevos productos que en la seguridad a largo plazo. Estos movimientos alimentaron la percepciĆ³n de que la estructura de seguridad interna estaba en plena agitaciĆ³n, algo que no pasa desapercibido para gobiernos y organismos reguladores, especialmente en la UniĆ³n Europea.
La reapertura del puesto de Head of Preparedness pretende cerrar esa etapa de interinidades y rotaciones, devolviendo a la seguridad un liderazgo concentrado en una sola figura con un mandato claro. El mensaje que intenta transmitir OpenAI es que la mitigaciĆ³n de riesgos deja de ser un asunto distribuido y se convierte en una responsabilidad ejecutiva de primer nivel, con recursos y poder de decisiĆ³n.
Para un entorno como el europeo, en el que se insiste en la necesidad de trazabilidad y gobernanza sĆ³lida, una estructura de seguridad estable resulta casi un requisito para que las grandes plataformas de IA puedan aspirar a contratos pĆŗblicos o a integrarse en servicios crĆticos. Sin un liderazgo claro, es mĆ”s complicado demostrar que existen procesos consistentes para detectar, evaluar y corregir problemas.
La cuestiĆ³n ahora es si este nuevo fichaje serĆ” suficiente para calmar las aguas tras un periodo cargado de crĆticas y sospechas. Organizaciones de defensa de derechos digitales y asociaciones profesionales de la salud mental seguirĆ”n de cerca cĆ³mo se traduzcan estos cambios organizativos en medidas concretas que proteger a los usuarios europeos de posibles daƱos.
Entre la innovaciĆ³n acelerada y la contenciĆ³n del riesgo
Todo este movimiento se produce mientras OpenAI mantiene un ritmo frenĆ©tico de lanzamientos y mejoras. La empresa ha presentado modelos de texto cada vez mĆ”s potentes, herramientas de generaciĆ³n de vĆdeo como Sora y sistemas capaces de automatizar partes del trabajo cientĆfico o del desarrollo de software. Cada salto de capacidad abre la puerta a usos beneficiosos, pero tambiĆ©n a nuevos vectores de abuso.
Altman ha reconocido que, si el objetivo fuera evitar cualquier daƱo, la soluciĆ³n mĆ”s sencilla serĆa retirar del mercado productos como ChatGPT o Sora. Pero eso, argumenta, frenarĆa avances que podrĆan ser Ćŗtiles en medicina, educaciĆ³n o investigaciĆ³n. En lugar de prohibir, la apuesta de OpenAI pasa por controlar las consecuencias: asumir que habrĆ” fallos, pero trabajar para que sus efectos no sean irreparables.
Para el jefe de preparaciĆ³n, este enfoque se traduce en vivir en una especie de paradoja permanente. Por un lado, deberĆ” permitir que los modelos se desplieguen con cierto margen de experimentaciĆ³n, ya que sin datos reales es difĆcil evaluar su comportamiento. Por otro, tendrĆ” que defender lĆmites y retrasos cuando detecte patrones de riesgo que no se habĆan previsto en laboratorio.
Esta tensiĆ³n entre ālanzar rĆ”pidoā y ālanzar seguroā no es nueva en tecnologĆa, pero en el caso de la IA generativa se amplifica: los errores de un modelo de lenguaje pueden influir en decisiones mĆ©dicas, sugerir estrategias financieras, colarse en procesos educativos o alimentar campaƱas de desinformaciĆ³n. Eso obliga a replantear la cultura clĆ”sica de Silicon Valley, basada en probar en producciĆ³n y corregir sobre la marcha.
En Europa, donde las autoridades han sido mĆ”s estrictas con prĆ”cticas de āmuĆ©vete rĆ”pido y rompe cosasā, el papel de este responsable de preparaciĆ³n podrĆa ser determinante a la hora de ganarse la confianza de reguladores y clientes empresariales. PaĆses como EspaƱa, Francia o Alemania ya han empezado a trazar lĆneas rojas en el uso de la IA en sanidad, justicia o educaciĆ³n, por lo que las decisiones que tome este nuevo ejecutivo tendrĆ”n impacto directo en cĆ³mo se despliegan estas herramientas en el continente.
El lado humano de una tarea con mucha presiĆ³n
Aunque el sueldo y el prestigio del puesto pueden resultar atractivos, no faltan voces que advierten de que podrĆa convertirse en una ātrampa doradaā. La persona al mando tendrĆ” que lidiar con expectativas altĆsimas: frenar riesgos catastrĆ³ficos, satisfacer a reguladores y opiniĆ³n pĆŗblica, y al mismo tiempo no convertirse en un obstĆ”culo insalvable para el negocio.
El trabajo supone tambiĆ©n gestionar la relaciĆ³n con equipos de producto, ingenieros, abogados y especialistas en Ć©tica y salud mental, que no siempre verĆ”n los riesgos del mismo modo. HabrĆ” momentos en los que la presiĆ³n comercial para lanzar funciones nuevas chocarĆ” frontalmente con la necesidad de imponer barreras o retrasos, y la figura del jefe de preparaciĆ³n serĆ” el punto de fricciĆ³n.
En paralelo, organizaciones de usuarios, colectivos profesionales y responsables polĆticos en la UniĆ³n Europea esperan que roles como este no se queden en un mero gesto. Tras aƱos de promesas de autorregulaciĆ³n por parte de la industria tecnolĆ³gica, hay un cierto escepticismo sobre la eficacia de los mecanismos internos cuando entran en conflicto con los intereses de crecimiento y cuota de mercado.
Si el puesto consigue dotar de coherencia a la estrategia de seguridad de OpenAI, introducir criterios exigentes en la evaluaciĆ³n de riesgos y, llegado el caso, bloquear despliegues problemĆ”ticos, podrĆa convertirse en una referencia para otras empresas del sector. Si, por el contrario, se queda sin capacidad real de decisiĆ³n, serĆ” difĆcil que convenza a quienes hoy reclaman mĆ”s vigilancia externa sobre la inteligencia artificial.
Con la creaciĆ³n de este jefe de preparaciĆ³n, OpenAI intenta enviar la seƱal de que ha tomado nota de las advertencias y estĆ” dispuesta a reforzar su escudo interno antes de dar el siguiente salto tecnolĆ³gico. En un escenario donde la IA se infiltra en la vida cotidiana de millones de personas en Europa y en el resto del mundo, el alcance real de este movimiento dependerĆ” de cĆ³mo se ejerza ese poder de freno, de hasta quĆ© punto se prioricen la salud mental y la seguridad frente a la prisa por innovar y de la capacidad de esta figura para convertir los grandes principios en decisiones incĆ³modas, pero necesarias.
