Kareem Ayoub, de Google DeepMind, en HumanX en Ámsterdam, 23 de septiembre de 2026. Crédito: Sam Pinto / HumanX

Las empresas no pueden gobernar completamente los sistemas de IA, pero pueden construir una cerca fija alrededor de ellos, dijo Kareem Ayoub, de Google DeepMind. Señaló a los bancos a finales de los años 80 y principios de los 90. Colocaron algoritmos de trading dentro de reglas fijas que podían verificar.

Ayoub, vicepresidente de estrategia técnica de IA de DeepMind, habló con Tom Mackenzie de Bloomberg el miércoles en HumanX en Ámsterdam. Dijo que el debate sobre la seguridad se reduce a una tensión entre la capacidad exponencial y la gobernanza lineal.

"Es posible que no puedas gobernar completamente el sistema en sí, pero puedes construir un perímetro de gobernanza determinista alrededor de él", dijo Ayoub sobre el enfoque de los bancos.

Dividió el problema en tres partes. Una es el papel que la IA debe desempeñar en la investigación y el desarrollo. Otra es cuán transparentes deben ser los sistemas. La tercera es quién los controla. El Marco de Seguridad Frontier de Google, que establece umbrales de capacidad y mitigaciones, es parte de la respuesta, dijo.

Mackenzie señaló que Dario Amodei, de Anthropic, quiere frenar el avance de la frontera. Demis Hassabis ha pedido un modelo de regulador liderado por la industria, modelado en FINRA, el organismo de vigilancia de corredores de valores de EE. UU., dijo Mackenzie. Ayoub dijo que los guardrails necesitarán asociaciones más allá de las empresas de tecnología.

Ayoub describió una brecha entre lo que la tecnología puede hacer y cómo las empresas la utilizan. En la frontera, acelera el descubrimiento de fármacos, traduce textos antiguos y ayuda a detectar ondas gravitacionales. Dentro de las empresas, el enfoque a menudo se centra en redactar o resumir correos electrónicos, dijo.

Dijo que el cambio del modelo al agente como producto comenzó alrededor de finales de 2025. Un agente envuelve un modelo en memoria, herramientas y acceso a Internet para que pueda trabajar en tareas largas y multietapa. Los rendimientos más fuertes hasta ahora son en ingeniería de software, dijo.

Las mejores empresas con las que trabaja tienen cuatro hábitos, dijo Ayoub. Construyen cajas de arena seguras rápidamente en lugar de esperar proyectos de TI de varios años. No apuestan en contra del progreso del modelo. Miden lo que les importa. Y sus líderes utilizan las herramientas ellos mismos.

"Las mejores empresas preguntan: ¿será lo que estoy construyendo diez veces mejor si el modelo subyacente es diez veces mejor?", dijo.

Las empresas fracasan cuando recompensan al personal por ocultar su uso de IA, dijo. También fracasan cuando los líderes utilizan las herramientas solo superficialmente. A medida que disminuye el costo de la inteligencia, espera que más gastos se destinen a verificar los resultados en lugar de producir más de ellos.

El estado de ánimo en DeepMind

Mackenzie cerró preguntando sobre la moral. Citó a investigadores que han abandonado este año y el traslado de Hassabis a presidente. Google trasladó su liderazgo de IA a Koray Kavukcuoglu en California en agosto.

Ayoub dijo que no tenía mucho que agregar a lo que se ha informado. Dijo que la IA general es la misión de la vida de Hassabis. Recordó que Hassabis dijo en Google I/O que, mirando hacia atrás, probablemente nos daremos cuenta de que estuvimos en "la base de la singularidad". También señaló la energía que rodea al programa Gemini, liderado por Kavukcuoglu.

DeepMind lanzó el Instituto DeepMind este mes para discutir la IA general. Los ex investigadores de DeepMind también están construyendo sus propias empresas, incluida la startup de modelo de mundo Emulate.

"El futuro ya no es un desafío de predicción. Se convierte en un problema de diseño", dijo Ayoub.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.