BearManBull Escreveu:Rolling_Trader Escreveu:Os agentes não aumentam a janela de contexto em nada, externalizam o estado
Rolling_Trader Escreveu:Não há aqui nenhuma framework de agentes a resolver a limitação do contexto....
Que resposta é essa BearManBull? Um argumento por Ctrl + F? Procurou pela palavra context no diagrama e assinalou-a a amarelo? Isso prova o quê exatamente?
É irónico que, a caixa que destacou, demonstra exatamente o que eu disse.
O diagrama mostra: 1 Inspect context:
lineage, feedback, references. Os inputs desses elementos (solution lineage, knowledge base, evaluator) estão à esquerda,
fora do loop .
Ou seja, o passo 1 é o agente a inspecionar todo o contexto da interação corrente e a decidir o que carregar para a janela de contexto.
E o passo 1 é um de cinco:
Inspect, Plan, Implement, Evaluate, Diagnose and repair. O que faz a diferença é o
ciclo todo que compõe o AVO e não apenas uma das suas partes.
Enquanto a fase "4 Evaluate" não der o OK que a "resposta" é válida, esta não segue para ser catalogada como informação que resolve o problema a endereçar (solution lineage).
Quanto a ir perguntar à IA o que ela pensa... fica provado que o seu problema é claramente interpretação a "sua IA" não falou em limites da janela de contexto, a conclusão do ponto 6 contradiz a sua afirmação e dá razão à minha "
The challenge isn't merely fitting all this information into a context window. It's maintaining an accurate, persistent model of the matter and knowing what deserves attention".
O problema não é o limite da janela de contexto. 1 Milhão de tokens pode dar para colocar toda aquela informação em contexto, o problema é depois o modelo raciocinar sobre toda esta informação numa tarefa de longos dias sem "perder o fio à meada", sem entrar em loop, sem tirar conclusões enviesadas e sem a LLM ter nenhum mecanismo para validar o seu próprio raciocínio à medida que vai avançando no problema.
Isto não é limitação do contexto, é limitação da arquitetura.Na sua segunda pergunta à IA, claro que o AVO pode ajudar no ponto 6, mas o problema desse ponto não é o limite da janela, a própria IA diz isso
"it doesn't eliminate the underlying problem; it changes the architecture", o problema subjacente é a arquitetura simples de ter uma LLM, um modelo preditivo, a operar sobre um conjunto massivo de dados.
A mudança de arquitetura que a sua IA lhe referiu é a do AVO, que muda o foco para manter estado coerente e saber o que merece atenção ("matter workspace") e isso endereça-se com o "AVO agentic variation loop", não com uma janela maior. É isso que está no blog, é isso que está no paper é isso que está na sua conversa com a LLM e mesmo assim você não entende... o meu ponto já o fiz e encerro aqui a discussão que os seus "argumentos" só me fazem desperdiçar energia.