A Midjourney lançou uma atualização v7 que traz uma série de melhorias significativas.A nova versão do Fast Mode resulta numa redução significativa do tempo de processamentoO tempo de execução da versão v7 é de apenas 40 segundos no modo rápido e de apenas 18 segundos no modo turbo. Esta melhoria não só melhora a experiência do utilizador, como também torna a versão v7 quase metade do custo da anterior.
Além disso, a v7 introduz um novoSistema de Omni-ReferênciaO parâmetro Omni-Weight permite ao utilizador adicionar elementos específicos à imagem, tais como personagens, objectos, veículos ou criaturas. Ao ajustar o parâmetro Omni-Weight, o utilizador pode controlar o rigor da imagem de referência, resultando numa geração de imagens mais precisa.
Estas actualizações são especialmente importantes para os criadores de conteúdos e designers que necessitam de gerar eficientemente imagens de alta qualidade, especialmente em sectores como o desenvolvimento de jogos, o design publicitário e a produção cinematográfica.
---
Numa conversa aprofundada sobre a longa pré-treino contextual do Gemini, Logan e Nikolay discutem vários tópicos importantes.
Em primeiro lugar, falaram sobre a razão pela qual escolheram 1 milhão (1M) como comprimento do contexto. Nikolay explicou que isso se deveu ao facto de 1M ser 10 vezes o comprimento padrão na altura, o que está em linha com o que a Google sempre fez - sempre com o objetivo de atingir uma ordem de grandeza superior ao status quo ao definir objectivos.
Quando questionado sobre comprimentos de contexto maiores (por exemplo, 1-2M ou mais), Nikolay referiu que tinham tentado 10 milhões (10M), o que, embora tecnicamente viável, era dispendioso e tinha recursos de hardware limitados.
Relativamente à questão de saber se os contextos longos invalidam a geração melhorada por recuperação (RAG), Nikolay salienta que os dois se complementam e que a chave reside na eficiência com que a informação contextual é utilizada.
Discutindo o problema do pinhole simples (NIAH), Nikolay disse que este tipo de problema foi largamente resolvido e que o verdadeiro desafio reside em lidar com a "interferência dura" e com múltiplos pinhole, que podem distrair o modelo.
Sobre a razão pela qual se centrou na NIAH, Nikolay explicou que tarefas de avaliação demasiado complexas podem diluir o sinal de capacidade e conduzir a resultados de avaliação ambíguos.
Por último, discutiram o desfasamento entre os comprimentos de entrada e de saída. Embora as entradas mais longas possam ser tratadas na fase de pré-treino, na prática o modelo tende a acabar por gerar dentro de um determinado intervalo, mesmo que sejam necessárias respostas mais longas.
Outros pontos dignos de nota incluem:
- Não observaram um efeito "lost-in-the-middle".
- É importante notar que pode haver um conflito entre o conhecimento contextual e o conhecimento dos pesos, pelo que este facto deve ser explicitamente indicado na consulta.
- O caminho a seguir é um processamento contextual de 10M mais económico e preciso, com o objetivo final possivelmente de 100M, mas isso pode exigir novas inovações de aprendizagem profunda.
- Não basta ter um hardware potente, é preciso ter engenheiros de inferência muito bons para o apoiar.
---
Para ultrapassar o limite de 10M+, estamos a tentar os seguintes métodos:
**Esparsidade**: por exemplo, Transformador de encaminhamento, que reduz a complexidade computacional através de um mecanismo de encaminhamento.
**Poupança no pré-preenchimento**: As ideias da Matroshka são utilizadas para otimizar o processo de pré-preenchimento e aumentar a eficiência.
Saídas antecipadasO facto de o modelo atingir um determinado nível de confiança e o cálculo ser interrompido mais cedo reduz o consumo desnecessário de recursos computacionais.
O diálogo entre Logan e Nikolay fornece muitas informações interessantes:
- Porquê 1 milhão? Porque era dez vezes mais do que o padrão na altura. Normalmente, os funcionários da Google estabelecem objectivos para melhorar dez vezes mais do que o status quo, e não apenas para igualar ou exceder ligeiramente os níveis actuais.
- Para mais de 1-2M, tentaram 10M, o que é viável, mas é dispendioso e com poucos recursos de hardware.
- O RAG de contexto longo não é uma aplicação de arrasar, os dois podem complementar-se, o que importa é a eficácia com que se preenche o contexto.
- O problema simples da "agulha num palheiro" foi resolvido, mas a dificuldade reside em lidar com as "interferências difíceis", que desviam a atenção. Além disso, o problema das agulhas múltiplas é um desafio devido à necessidade de dividir a atenção.
- A definição de 1M entradas com 8k saídas deve-se ao facto de isto não ser um problema na fase de pré-treino, mas no pós-treino o modelo pode tender a terminar a geração mais cedo, mesmo que sejam necessárias respostas mais longas.
- Não observaram o fenómeno dos "perdidos no meio".
- É importante notar que existe uma distinção entre conhecimento em contexto e conhecimento em pesos, e que podem surgir conflitos quando se utiliza o contexto para atualizar o conhecimento.
- O próximo passo será implementar contextos de 10M mais baratos e precisos para a maioria das bases de código. E para chegar aos 100 milhões serão provavelmente necessárias novas inovações na aprendizagem profunda.
- Não basta ter chips, é preciso ter engenheiros de raciocínio muito talentosos.
---
Um novo estudo no domínio da conceção de modelos de grandes línguas (LLM) pode marcar um ponto de viragem.Como a experiência da Torre Inclinada de Pisa que abriu a física modernaEste estudo revela os verdadeiros limites de diferentes arquitecturas LLM através de um ambiente de pré-treino sintético controlado. Esta descoberta pode classificar a investigação sobre LLM em "antes" e "depois".
A equipa de investigação concebeu um conjunto de dados sintéticos para testar sistematicamente o desempenho de várias arquitecturas LLM. Verificaram que certas arquitecturas tinham um bom desempenho em tarefas específicas, mas eram significativamente deficientes noutras. Além disso, os investigadores exploraram o desempenho destas arquitecturas em conjuntos de dados de diferentes dimensões, clarificando ainda mais a sua aplicabilidade e limitações. Isto fornece uma orientação valiosa para futuros projectos de LLM.
As principais conclusões incluem:
- Algumas arquitecturas funcionam bem com textos longos, mas não tão bem com tarefas de texto curto.
- Algumas arquitecturas têm um melhor desempenho com recursos de computação limitados e são adequadas para a implantação de dispositivos periféricos.
- Algumas concepções arquitectónicas inovadoras revelam um grande potencial em ambientes de aprendizagem multitarefa.
Os resultados desta investigação não só são importantes para o meio académico, como também constituem uma referência prática para a indústria, ajudando os programadores a escolher a arquitetura LLM adequada para aplicações reais.
---
ChaiGenie é uma extensão do Chrome baseada na integração Gemini e Qdrant da LangChain, concebida para uma pesquisa eficiente de documentos. Suporta vários idiomas e utiliza a tecnologia de pesquisa vetorial para melhorar significativamente a precisão e a velocidade da pesquisa. Ao combinar tecnologia avançada de processamento de linguagem natural e uma poderosa base de dados vetorial, o ChaiGenie pode ajudar os utilizadores a encontrar rapidamente a informação de que necessitam numa enorme quantidade de documentos.
Esta ferramenta é especialmente adequada para profissionais como programadores, investigadores e estudantes que necessitam de aceder frequentemente a um grande número de documentos. O suporte multilingue integrado torna a pesquisa de documentos em várias línguas fácil e conveniente. Além disso, o ChaiGenie oferece uma interface de fácil utilização que torna o funcionamento intuitivo e simples.
Destaques do projeto:
- Suporte multilingue
- técnica de pesquisa vetorial
- Integração de Gemini e Qdrant baseada em LangChain
Para mais informações, visite o GitHub: https://github.com/LangChainAI/ChaiGenie
---
um aparelho chamadoAgente de investigaçãoA aplicação Web da LangGraph fornece acesso com um clique aos resultados da investigação através da estrutura do Assistente de Investigação da LangGraph. A aplicação combina uma interface de utilizador intuitiva com uma poderosa tecnologia de IA para proporcionar aos investigadores um fluxo de trabalho eficiente e fluido.
A principal força do Research Agent é a sua capacidade de processar e analisar automaticamente grandes quantidades de literatura para ajudar os investigadores a encontrar rapidamente as informações de que necessitam. Além disso, suporta uma variedade de métodos de pesquisa, incluindo pesquisas por palavras-chave, semânticas e gráficas, permitindo aos utilizadores obter resultados de pesquisa abrangentes e precisos num curto espaço de tempo.
Ligação GitHub:https://t.co/XPpHckIH9S
A ferramenta é agora amplamente utilizada em vários domínios, como a medicina, a informática e as ciências sociais, e melhorou consideravelmente a eficiência e a qualidade da investigação.
---
Recentemente, um estudo sobre a aprendizagem por reforço para raciocínio em modelos de linguagem de grande dimensão atraiu muita atenção. O estudo melhorou drasticamente o desempenho no conjunto de dados MATH500, de 36,01 TP3T para uns espantosos 73,61 TP3T, através da aprendizagem por reforço e do raciocínio variacional (RLVR) num único exemplo.
Os investigadores observaram que, mesmo utilizando apenas a perda de entropia sem introduzir qualquer recompensa pelos resultados, o desempenho foi melhorado em 27,41 TP3T, uma descoberta que põe em causa a atual popularidade do fenómeno "grokking" e fornece novas ideias para futuras técnicas de processamento de linguagem natural.
Documentos relacionados:Aprendizagem por reforço para raciocínio em grandes modelos linguísticos com um exemplo de treino.
Este resultado da investigação não só valida a eficácia dos métodos de aprendizagem por reforço, como também realça o potencial para melhorar o desempenho do modelo com pequenas quantidades de dados de treino, o que é importante para cenários de aplicação prática que exigem uma utilização eficiente dos recursos.
---
Agora, com o mais recente componente de cliente MCP do @copilotkit, pode ligar facilmente qualquer aplicação a um servidor MCP, tal como o Cursor ou o Claude Desktop.
Para tal, basta executar o seguinte comando: npx copilotkit@latest init -m MCP
100% Java Código abertoIsto significa que o utilizador é livre de ver e modificar o código para satisfazer as suas necessidades específicas.
Esta tecnologia não só proporciona aos programadores uma maior flexibilidade, como também facilita a criação e a integração de aplicações versáteis. Quer esteja a desenvolver uma solução empresarial ou um projeto pessoal, pode beneficiar dela.
O MCP (Multi-Channel Protocol) é uma tecnologia utilizada para uma comunicação eficiente entre diferentes sistemas. Suporta uma variedade de métodos de transferência de dados, incluindo mensagens em tempo real e partilha de ficheiros. Esta poderosa capacidade de comunicação pode melhorar drasticamente a funcionalidade e a experiência do utilizador das aplicações.
Para as organizações que já possuem servidores MCP, esta nova tecnologia significa que podem escalar os seus ecossistemas mais rapidamente sem terem de criar uma nova infraestrutura de raiz.
---
A Trellix lançou recentemente um assistente de engenharia chamado **Sidekick**, uma ferramenta que revoluciona os fluxos de trabalho dos engenheiros, tirando partido do conjunto de produtos da LangChain, incluindo a LangChain, a LangGraph e a LangSmith. O Sidekick tem como objetivo proporcionar um desenvolvimento mais eficiente através da tecnologia de inteligência artificial O Sidekick tem como objetivo proporcionar um desenvolvimento mais eficiente através da tecnologia de IA.
A ferramenta não só optimiza o processo de escrita de código, como também ajuda numa série de áreas, como a depuração, os testes e a geração de documentação, melhorando assim consideravelmente a eficiência do desenvolvimento. Além disso, o Sidekick integra o processamento de linguagem natural, permitindo que os programadores interajam com o sistema através do diálogo, simplificando a execução de tarefas complexas.
Para as empresas, a introdução destes assistentes de desenvolvimento inteligentes pode reduzir os custos de mão de obra, aumentar a velocidade de entrega dos projectos e garantir uma qualidade de código consistente. À medida que cada vez mais empresas começam a reconhecer o valor das ferramentas de automatização, soluções como o Sidekick estão a tornar-se uma tendência na indústria.
---
Recentemente.Gémeosjuntamente comLangChainlançaram em conjunto um guia do programador atualizado, concebido para ajudar os programadores a incorporar melhor aGémeosAs capacidades multimodais, a invocação de ferramentas e a funcionalidade de saída estruturada com oLangChainEfetuar integrações. O guia não só abrange o suporte do modelo mais recente, como também fornece uma grande quantidade de exemplos de código do mundo real.
Com o desenvolvimento das tecnologias de IA, o processamento multimodal e os resultados estruturados estão a tornar-se cada vez mais importantes no domínio do Processamento de Linguagem Natural (PLN). Ao integrarGémeosresponder com cânticosLangChainO novo sistema permite aos programadores criar aplicações mais potentes que abrangem uma vasta gama de tarefas, desde a geração de texto à compreensão de imagens.
- **Capacidade multimodal**: suporta o processamento de dados multimodais, como texto e imagens.
- **Chamada de ferramenta**: Fornece uma interface API rica para simplificar o processo de integração de ferramentas.
- **Produção estruturada**: os dados gerados estão num formato mais normalizado para posterior processamento e aplicação.
O guia também inclui exemplos de código detalhados e cenários de aplicações reais para ajudar os programadores a começar rapidamente e a conseguir um desenvolvimento eficiente.
