Um alerta sombrio foi emitido por um ex-funcionário da Anthropic, que recentemente renunciou ao seu cargo. As preocupações do indivíduo giram em torno do desenvolvimento de sistemas de IA superhumanos, que acreditam que podem logo ultrapassar as capacidades humanas em vários campos, potencialmente levando a consequências catastróficas.
De acordo com o ex-funcionário, as pessoas que constroem IA estão cientes dos riscos potenciais, com alguns até acreditando que esses sistemas podem matar a todos até o final da década. No entanto, apesar desses medos, o desenvolvimento de IA continua sem parar, com empresas como a Anthropic competindo em uma corrida para alcançar avanços primeiro.
O ex-funcionário critica essa abordagem, argumentando que tentar acelerar a alinhamento - o processo de garantir que os sistemas de IA estejam alinhados com os valores humanos - é um risco presunçoso que não deve ser levado levemente. Eles também expressam otimismo sobre o potencial para coordenação entre laboratórios, citando disparos de advertência como o ataque da Hugging Face como um catalisador para acordos de ritmo.
O indivíduo insta os pesquisadores de laboratório a considerar as consequências potenciais de suas ações, perguntando se eles querem ser responsáveis por iniciar uma corrida de RL superinteligente sem uma compreensão rigorosa de sua mente. Eles também sugerem que uma proibição temporária de certas atividades de desenvolvimento de IA pode ser necessária para prevenir uma corrida global.
À medida que o desenvolvimento de IA continua a avançar a um ritmo acelerado, as preocupações sobre seu impacto potencial na humanidade estão crescendo. O alerta do ex-funcionário da Anthropic serve como um lembrete da necessidade de consideração cuidadosa e coordenação no desenvolvimento dessas tecnologias poderosas.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.