O co-fundador da Anthropic, Dario Amodei, quebrou um silêncio de uma semana no domingo para esclarecer a posição da empresa em relação a modelos de IA de peso aberto. Em uma postagem detalhada, ele disse que a Anthropic nunca defendeu uma proibição total desses modelos, descrevendo aqueles que não possuem capacidades perigosas como um "bem público". O esclarecimento segue uma carta aberta assinada pelo CEO da Nvidia, Jensen Huang, e dezenas de empresas de tecnologia, bem como relatórios de que funcionários do governo dos EUA estão considerando proibições a modelos de peso aberto chineses.

Amodei delineou três medidas de política que ele apoia em vez de uma proibição. Primeiro, ele defende controles de exportação de chips mais rigorosos e uma repressão ao "contrabando rampante" de semicondutores avançados para a China. Ele argumenta que, sem acesso a chips dos EUA, laboratórios chineses teriam dificuldades em treinar modelos que rivalizem com os americanos sob leis de escala existentes. Segundo, ele defende ação contra a distilação de modelos em larga escala, um processo que permite que concorrentes reproduzam modelos poderosos a uma fração do custo de treinamento original. Terceiro, ele propõe testes de segurança obrigatórios para qualquer modelo considerado suficientemente capaz, seja aberto ou fechado, enquanto isenta pesquisas menos capazes de startups e academia.

Os apoiadores da carta aberta argumentam que pesos abertos ampliam o acesso e a competição. Amodei concordou que a disponibilidade mais ampla pode fomentar a inovação, mas ele alertou que pesos abertos não favorecem automaticamente os defensores sobre os atacantes. Ele citou o potencial de um modelo capaz de armazenar um vírus de nível pandêmico usando materiais facilmente disponíveis, observando que medidas defensivas contra tais ameaças levariam anos para ser desenvolvidas.

A queixa mais pontiaguda da Anthropic centra-se na distilação de modelos. A empresa anteriormente acusou o laboratório Qwen da Alibaba de executar a maior campanha de distilação contra o modelo Claude da Anthropic, alegadamente usando 25.000 contas falsas para gerar 29 milhões de interações. Amodei reconheceu que identificar e interromper a distilação é desafiador porque as contas ofensivas muitas vezes surgem apenas após a ocorrência de uma cópia substancial. Ele enfatizou que a intervenção política, e não a dependência da aplicação de uma única empresa, é necessária para abordar a questão.

No contexto mais amplo, o esclarecimento chega enquanto Washington debate como regular avanços de IA que possam ter implicações de segurança nacional. Relatórios sugerem que funcionários do governo dos EUA estão considerando restrições a modelos de peso aberto chineses, uma medida que poderia redefinir o cenário competitivo para o desenvolvimento de IA. As medidas propostas por Amodei visam encontrar um equilíbrio: preservar os benefícios da pesquisa aberta enquanto mitigam riscos ligados à aquisição ilícita de chips, distilação descontrolada e modelos poderosos não testados.

A declaração da Anthropic destaca uma posição matizada: a empresa não se opõe a modelos de peso aberto em si, mas rejeita a noção de permitir que eles se proliferem sem controle, especialmente quando eles surgem de dados roubados, hardware contrabandeado ou falta de avaliação de segurança rigorosa. Se os formuladores de políticas adotarão as salvaguardas específicas que Amodei recomenda permanece por ser visto, mas a posição pública da empresa sinaliza uma disposição para engajar-se no debate de política em curso.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.