Anthropic afirma que Claude Mythos colocou seus modelos em funcionamento em GPUs da AMD em cerca de três dias
Em 10 de novembro, a Anthropic disse a investidores, em um vídeo de apresentação para seu IPO, que o modelo Claude Mythos Preview fez o trabalho de software necessário para executar um modelo da Anthropic nas GPUs MI355X da AMD em cerca de três dias, com “praticamente nenhuma intervenção humana”. A Tom's Hardware noticiou a afirmação em 16 de novembro.
Segundo a apresentação, conforme interpretada pela Tom's Hardware:
- Tom Brown, cofundador e diretor de computação da Anthropic, disse que o Mythos portou ou escreveu “quase 100%” dos kernels. Ele afirmou que o mesmo trabalho costumava levar de seis a 12 meses para “dezenas de engenheiros”, uma estimativa que a Anthropic baseia em sua experiência anterior com a implementação de novos aceleradores.
- Uma nota de rodapé do slide limita os três dias ao processamento de prompts (prefill) de um modelo da Anthropic em GPUs MI355X, “com um nível de desempenho útil”. A Anthropic não informou se a etapa de decodificação foi incluída, qual foi a velocidade do modelo em comparação com as GPUs da Nvidia nem a que se refere o “~100%” do gráfico.
- O prospecto diz que a Anthropic consegue “integrar novas plataformas de chips em uma fração do tempo que isso costumava levar”, sem especificar um prazo ou nomear um chip.
A Anthropic executa seus modelos em GPUs da Nvidia e da AMD, TPUs do Google e Trainium da AWS. A Tom's Hardware menciona um acordo com a AMD de até 2 gigawatts e que os primeiros chips MI450 da AMD destinados à Anthropic são esperados para o primeiro semestre de 2027. A publicação apresenta a afirmação como um desafio à vantagem de software CUDA da Nvidia e também observa que esse tipo de trabalho ainda exige testar o hardware de destino.
Fontes
- Claude Mythos reduziu para cerca de três dias o trabalho de software para integrar GPUs da AMDHacker News · 10 comentários
Receba notícias como esta por push.
O AI Tracker avisa você quando algo muda nas ferramentas que você usa.