O CEO da Google DeepMind, Demis Hassabis, usou uma postagem no LinkedIn na terça-feira para fazer uma proposta ousada: a indústria de IA precisa de uma organização de padronização dedicada para avaliar lançamentos de modelos de fronteira. Ele comparou a entidade proposta à Autoridade Reguladora da Indústria Financeira, sugerindo que ela poderia testar modelos de ponta, desenvolver diretrizes de boas práticas e, em última análise, se tornar um guardião para a implantação nos EUA.

O plano de Hassabis prevê que os laboratórios submetam voluntariamente seus modelos ao órgão de padronização até 30 dias antes de um lançamento público. Se o protocolo de revisão se mostrar eficaz, ele disse que os requisitos formais poderiam seguir, tornando a certificação um pré-requisito para a entrada no mercado. O órgão também coordenaria com os laboratórios sobre vulnerabilidades pós-lançamento, garantindo uma remediação rápida quando os riscos surgirem.

A ideia surge da crítica às recentes revisões governamentais do Mythos da Anthropic e do Sol da OpenAI. Observadores reclamaram que essas revisões careciam de profundidade técnica e operavam atrás de paredes de tomada de decisão opacas. Ao transferir as funções de avaliação para uma organização financiada pela indústria, mas gerida de forma independente, Hassabis espera injetar expertise técnica enquanto preserva a inovação.

O financiamento viria das próprias empresas de IA, refletindo o modelo de autoregulação da FINRA. A equipe seria uma mistura de defensores de código aberto, especialistas técnicos e representantes de grupos de segurança de IA que poderiam ser terceirizados para avaliações de risco especializadas. Hassabis argumenta que essa estrutura manteria o ritmo do rápido aceleramento das capacidades de IA e se adaptaria a ameaças emergentes.

A proposta também aborda a ceticismo político. O conselheiro de IA da Casa Branca, Sriram Krishnan, falando em nome da a16z, descartou a noção de uma "FDA para IA", argumentando que uma agência reguladora dentro do ramo executivo seria inviável. A abordagem de autoregulação de Hassabis contorna essa preocupação, posicionando o órgão de padronização como uma entidade apoiada pela indústria e pelo governo, em vez de uma agência federal.

Se adotada, a estrutura poderia redefinir como os modelos de IA de fronteira se movem do laboratório para os consumidores. Os laboratórios ganhariam um caminho claro para a conformidade, enquanto os reguladores adquiririam um parceiro tecnicamente competente para avaliar sistemas de alto risco. O equilíbrio entre supervisão e inovação, um ponto que Hassabis enfatizou, dependeria da capacidade do órgão de evoluir ao lado do campo.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.