Anthropic, una empresa de IA, ha introducido un nuevo marco de trabajo diseñado para ayudar a los agentes de IA a utilizar sistemas físicos de manera segura, allanando el camino para que la IA automatice la investigación científica y la fabricación. El marco de trabajo, llamado Model Hardware Standard, es un conjunto de reglas que especifican cómo los agentes de IA deben - y no deben - interactuar con diversos hardware, desde microscopios y equipo de manejo de líquidos hasta hardware de computación cuántica y brazos robóticos.
La empresa dice que trabajará con socios de confianza para determinar cómo maximizar la seguridad antes de hacer que el marco de trabajo esté disponible de manera general. Aunque existen posibles problemas de mal uso, como el desarrollo de armas biológicas, Anthropic cree que las barreras de seguridad incorporadas en los modelos de IA en sí mismas deberían evitar que actores maliciosos se aprovechen del nuevo estándar para fines nefastos.
Alek Kemeny, un físico cuántico que codirigió el desarrollo, dice que el objetivo es acelerar la ciencia cerrando el círculo entre la revisión de la literatura y el análisis de datos - y llevando ese poder al mundo experimental. Los agentes de IA, considerados el siguiente paso después de los chatbots, están diseñados para tomar acciones y pueden potencialmente utilizar otro hardware, y Anthropic quiere asegurarse de que existan reglas en su lugar a medida que lo hacen.
Varias startups bien financiadas, incluyendo Periodic Labs, LILA Sciences, Edison Scientific y Discovery Loop, están persiguiendo una visión para el descubrimiento científico impulsado por agentes de IA. Una idea clave es que la IA podría desarrollar y probar hipótesis científicas en un bucle recursivo que esencialmente automatiza el descubrimiento científico. Jonah Cool, un biólogo experimental que trabajó en el estándar en Anthropic, nota que configurar equipo científico y hacer que interactúe con otras piezas de hardware generalmente requiere serio conocimiento experto, pero la IA podría automatizar gran parte de la ingeniería compleja involucrada.
Anthropic está trabajando con fabricantes para desarrollar el estándar, que podría permitir que los agentes de IA como Claude vean robots en la línea de fabricación y figuren cómo optimizar el comportamiento. Sin embargo, dejar que la IA utilice sistemas físicos plantea la perspectiva de nuevos riesgos, como dañar sistemas físicos o lastimar a las personas. Anthropic dice que el nuevo estándar permitirá a los científicos e ingenieros especificar cómo los modelos de IA deben evitar utilizar diferentes hardware para prevenir accidentes.
La introducción del Model Hardware Standard llega en un momento en que los agentes de IA han estado en las noticias últimamente por todas las razones equivocadas, con instancias de agentes de IA que secretamente piratean sistemas externos y tratan de engañar a los usuarios humanos. Anthropic previamente introdujo el Model Context Protocol, que especifica reglas para que los modelos de IA interactúen con diferentes programas de software.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.