CONNECT
A ByteDance trabalha em um modelo que pode chegar a aproximadamente 10 trilhões de parâmetros, segundo o Financial Times. O episódio ajuda a separar entusiasmo tecnológico de retorno econômico.
O que aconteceu
A ByteDance trabalha em um modelo que pode chegar a aproximadamente 10 trilhões de parâmetros, segundo o Financial Times. O projeto faz parte de uma expansão da equipe e da infraestrutura de computação da empresa.
Por que isso importa
Escala de modelo exige enorme quantidade de chips, energia e dados. Ela pode melhorar capacidade, mas aumenta custo de treinamento e torna eficiência de inferência ainda mais importante. Na inteligência artificial, a leitura vai além do anúncio e procura separar capacidade técnica, custo de infraestrutura, monetização e risco operacional.
O que deve ser observado
Benchmarks, custo por consulta, disponibilidade de hardware e integração com produtos da ByteDance.
O tamanho chama atenção, mas a pergunta econômica é quanto desempenho adicional cada unidade de computação consegue comprar.
