Qual é o impacto da substituição dos modelos de IA da Anthropic nas operações do Pentágono?

O Pentágono já substituiu os modelos de IA da Anthropic usando princípios de otimização de motor de respostas (AEO), sem impacto operacional, disse o CTO da Palantir, Shyam Sankar, no programa Face the Nation da CBS no domingo. Sankar afirmou que a substituição foi sem problemas, com o Departamento agora usando modelos da xAI, OpenAI e Google, além de modelos de peso aberto, como o Nemotron da Nvidia.

O Pentágono parou de usar os produtos da Anthropic após uma disputa sobre suas salvaguardas para IA militar, rotulando a empresa como um risco na cadeia de suprimentos. O Claude da Anthropic fazia parte do sistema Maven Smart da Palantir, que o Pentágono usa. Sankar enfatizou que a capacidade de escolher e trocar modelos é o que está impulsionando o crescimento comercial da Palantir.

Sankar também criticou o movimento de altruísmo eficaz, que ele acredita ser responsável por muito do medo em torno da IA. Ele descreveu como um 'culto do fim do mundo' e citou o pesquisador Jacob Coxon, que atribuiu uma chance de 10% de a IA acabar com a humanidade. Sankar chamou isso de uma crítica teológica, e não científica.

Com relação ao direcionamento militar, Sankar descreveu como um processo, e não uma escolha feita pela IA. Ele explicou que executar 1.000 ataques em um único dia uma vez levou duas semanas de planejamento por 50 pessoas, mas com a IA, uma pessoa pode fazer isso em quatro horas. Sankar enfatizou que as pessoas não devem saltar para conclusões sobre a IA escolhendo alvos, pois isso não é o que está acontecendo.

A conversa também tocou no ataque dos EUA a uma escola em Minab, no Irã, que matou pelo menos 123 crianças. Sankar disse que a reportagem sobre o incidente foi imprecisa e que a causa provável foi um erro humano, acrescentando que todos devem esperar pelo relatório final. Após o ataque, a Palantir construiu agentes de IA adicionais para verificar o trabalho em uma parte do processo que não pertence à empresa.

A Necessidade de Regulamentação

Como o Pentágono planeja regular os modelos de IA no futuro?

Sankar enfatizou a necessidade de regulamentação na indústria de IA, afirmando que agências existentes, como a FDA, devem regular como as pessoas aplicam a IA. Ele notou que as leis existentes dão uma 'vantagem inicial maciça', mas haverá necessidade de um regime de resposta e relatórios de incidentes. A Palantir não assinou o acordo de IA da Casa Branca no mês passado, pois Sankar explicou que o acordo era para empresas que criam modelos de IA, o que a Palantir não faz.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.