O Comet já está disponível para todos no mundo.
Nos últimos 84 dias, milhões se juntaram à lista de espera do Comet em busca de um poderoso assistente pessoal de IA e novas maneiras de usar a internet.
A internet é melhor no Comet.
A transferência de peso é um dos maiores gargalos ao realizar RL distribuído em modelos de alta capacidade.
O nosso primeiro blog de Pesquisa Perplexity explica como os engenheiros de inferência da Perplexity aproveitaram a comunicação ponto a ponto RDMA para desbloquear atualizações de parâmetros ultra-rápidas para modelos de trilhões de parâmetros.
Ao aproveitar primitivas RDMA de baixo nível, agendamento estático e pipelining, aceleramos as atualizações em uma ordem de magnitude, para apenas 1,3 segundos por atualização.
Apresentando a API de Pesquisa Perplexity
Construímos um índice de pesquisa de bilhões de páginas da web para fornecer informações de qualidade em tempo real da internet.
Agora, os desenvolvedores têm acesso a todo o poder do nosso índice, fornecendo os resultados mais precisos em milissegundos.