NirSup Escreveu:Meu caro Amigo,
Agarre-se à essência das coisas e não se prenda nos pormenores.
E a essência do que escrevi no meu primeiro post foi que, apesar da proibição dos EUA na venda de chips da NVIDIA para a China, o negócio segue de vento em popa.
Essa era a essência da minha mensagem.
O resto são peanuts ou FAITES DAIVERS.
By Nirvana
Nirsup, por favor para de lançar confusão no tópico. Não há aqui nenhum
peanut ou
fait divers. A geração actual é a Blackwell. São na ordem de
3x mais rápidos que os Hopper (que são os que alegas que a China comprou e que descreveste como "os de topo"). O valor que escrevi atrás (3x) é um
ballpark e diz respeito à inferência. Já vi algures que para o treino a diferença chega a ser um pedaço maior, seja como for é apenas para se ter uma ideia e se perceber que a diferença entre os chips H e B é
bastante substancial.
Era excelente se permitisses que se colocassem esclarecimentos
pertinentes no tópico. Deixa os comentários de mau gosto para outro espaço, não são bem-vindos aqui.
Já agora, para quem eventualmente não estiver familiarizado com os termos, inferência é o modo em que os modelos AI estão quando (por exemplo) acedemos ao ChatGPT (ou outro LLM), perguntamos algo e ele responde. Treino, é o que os developers fazem no background antes de lançar o modelo ou actualização (o treino pode demorar dias/semanas, depende de uma série de factores). Se os Blackwell são ainda mais performantes em modo de treino, em termos relativos, a diferença ainda é mais relevante em termos de desenvolvimento de novos modelos AI (isto é, para quem lidera no cutting edge). Naturalmente, não vai ser o único factor, mas é relevante.