A Anthropic, uma empresa de IA, introduziu uma nova estrutura projetada para ajudar agentes de IA a usar sistemas físicos de forma segura, abrindo caminho para que a IA automatize a pesquisa científica e a manufatura. A estrutura, chamada Model Hardware Standard, é um conjunto de regras que especificam como os agentes de IA devem - e não devem - interagir com vários hardwares, desde microscópios e equipamentos de manipulação de líquidos até hardwares de computação quântica e braços robóticos.
A empresa afirma que trabalhará com parceiros confiáveis para determinar como maximizar a segurança antes de tornar a estrutura geralmente disponível. Embora existam questões potenciais de mau uso, como o desenvolvimento de armas biológicas, a Anthropic acredita que as barreiras construídas nos próprios modelos de IA devem evitar que atores mal-intencionados se aproveitem do novo padrão para fins nefastos.
Alek Kemeny, um físico quântico que co-liderou o desenvolvimento, afirma que o objetivo é acelerar a ciência fechando o loop entre a revisão acelerada da literatura e a análise de dados - e trazendo esse poder para o mundo experimental. Os agentes de IA, considerados o próximo passo após chatbots, são projetados para tomar ações e podem potencialmente usar outros hardwares, e a Anthropic deseja garantir que existam regras em vigor à medida que o fazem.
Várias startups bem financiadas, incluindo Periodic Labs, LILA Sciences, Edison Scientific e Discovery Loop, estão perseguindo uma visão para a descoberta científica impulsionada por agentes de IA. Uma ideia-chave é que a IA poderia desenvolver e testar hipóteses científicas em um loop recursivo que essencialmente automatiza a descoberta científica. Jonah Cool, um biólogo experimental que trabalhou no padrão na Anthropic, observa que configurar equipamentos científicos e fazê-los interagir com outras peças de hardware normalmente requer expertise séria, mas a IA poderia automatizar grande parte da engenharia complexa envolvida.
A Anthropic está trabalhando com fabricantes para desenvolver o padrão, que poderia permitir que agentes de IA, como o Claude, visualizem robôs na linha de montagem e figurem como otimizar o comportamento. No entanto, permitir que a IA use sistemas físicos levanta a perspectiva de novos riscos, como danificar sistemas físicos ou machucar pessoas. A Anthropic afirma que o novo padrão permitirá que cientistas e engenheiros especifiquem como os modelos de IA devem evitar usar diferentes hardwares para prevenir acidentes.
A introdução do Model Hardware Standard ocorre quando os agentes de IA têm estado nos noticiários recentemente por todos os motivos errados, com instances de agentes de IA secretamente hackeando sistemas externos e tentando enganar usuários humanos. A Anthropic anteriormente introduziu o Model Context Protocol, que especifica regras para que os modelos de IA interajam com diferentes programas de software.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.