Caldeirão da Bolsa

A Revolução da Inteligencia Artificial

Espaço dedicado a todo o tipo de troca de impressões sobre os mercados financeiros e ao que possa condicionar o desempenho dos mesmos.

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 12/8/2025 2:20

previsor Escreveu:Se calhar a perceção de que não houve um grande avanço está relacionada com o facto de antigamente haver muito menos coisas, tipo não havia internet e passou a haver. Só havia telefone fixo e passou a haver smartphone.

Se tivesse havido um grande aumento populacional, se calhar já havia arranha céus gigantes e carros voadores hehe


Há muito mais envolvido nos últimos anos do que telefone fixo para smartphone. Logo para começar, há a passagem de fixo para celular e de celular (básico) para smartphone. Há uma diferença enorme entre o celular dos anos 90 e o smartphone. O celular era um telefone (móvel). O smartphone é um computador de bolso com outro nome.


Mas há mais coisas envolvidas. Eu não concordo sequer plenamente com a lista do bear. Quando ele diz, por exemplo:

bearmanbull Escreveu:Comparar internet 56k com 10MB ou comparar 10MB com 1GB na prática não tem o mesmo impacto. (neste campo a fibra era o mais rápido e continua a ser essencialmente sem grandes mudanças de conceito).


O avanço na transmissão de dados aumentou colossalmente. E é mais do que a taxa de transmissão física. Avanços na compressão do sinal, por exemplo. Avanços em mais sinal concorrente no mesmo canal (o que permite servir mais clientes). O problema é, essencialmente, sempre o mesmo: focar numas coisas e ignorar outras. Há outros avanços. A taxa de transmissão de dados é muito maior do que o sugerido nesta breve passagem. Ao mesmo tempo aumentou-se a capacidade do canal e a eficiência da compressão de dados. Para que é que isto interessa? Porque são esses avanços todos juntos (e não apenas a taxa de transmissão individual) que permitem hoje termos serviços que eram "impensáveis" há 15-20 anos atrás.

Semelhante com o que ocorreu com a computação: a evolução do desempenho por cpu ou thread começou a desacelerar. Entretanto começou-se a apostar na paralelização (múltiplos cores / threads) o que por si só trouxe outras vantagens (hoje, um GPU tem milhares de mini-cores e é utilizado para diversas coisas desde rendering, crypto, machine-learning). Olhar individualmente para uma métrica é enganador, é o ponto.


TLDR:

O problema é que o bear deixa mais de fora do que o que inclui. A exposição dele não é abrangente.
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por previsor » 12/8/2025 2:08

Se calhar a perceção de que não houve um grande avanço está relacionada com o facto de antigamente haver muito menos coisas, tipo não havia internet e passou a haver. Só havia telefone fixo e passou a haver smartphone.

Se tivesse havido um grande aumento populacional, se calhar já havia arranha céus gigantes e carros voadores hehe
Avatar do Utilizador
 
Mensagens: 2651
Registado: 15/3/2023 3:21

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 12/8/2025 2:01

BearManBull Escreveu:Pelo menos sentia que o mundo mudava radicalmente mais depressa nos 80's90's 00's do que agora.


Comentando esta passagem porque tu tocas em algo que me parece pertinente e relevante aqui. Tu dizes que "sentes". E o problema é, creio eu, precisamente esse. Estás a avaliar pelo que "sentes"...

Alguns dos exemplos que deste no último post são razoáveis, outros são altamente discutíveis e estou em crer que estás a menosprezar o verdadeiro impacto envolvido. Seja como for, um contra-exemplo: avanços em tratamentos oncológicos. Por razões que não interessa estar aqui a detalhar, tenho uma razoável noção de como estavam a avançar nos anos 80-90's. E de como têm estado a avançar nos últimos 10-20 anos. Pois, eu já "sinto" que está a avançar mais agora (de forma mais significativa, com mais impacto, com diferenças que interessam mais, ou seja, estou a tentar aplicar o mesmo tipo de linha / noção que aplicaste, tanto quanto entendi). É uma opinião razoavelmente informada e que julgo que consigo suportar empiricamente.

Nesta área, estou bastante seguro que está a ocorrer o oposto do que tu alegas noutras. O que "sentes" provavelmente reflecte as (tuas) prioridades ou aquilo que mais te impacta/afecta. Não é uma crítica, é um alerta, é food for thought. Requere algum cuidado quando pretendemos uma avaliação objectiva e abrangente, não nos deixarmos toldar pela nossa perspectiva individual.


Como é óbvio, não me baseio meramente no contra-exemplo. Há outras áreas de grande avanço nos últimos anos, que já enumerei atrás.
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 12/8/2025 1:25

BearManBull Escreveu:Só uma pequena nota relativo ao transporte de carga para o espaço a Space X foi fundada em 2003.


Foi fundada em 2003 mas grande parte dos avanços deram-se nos últimos 10 anos (o que se passou antes é importante, da mesma forma que por existir antes não deixa de existir avanços grandes nos últimos 10 anos). O ano de fundação é um red herring. A menos que queiras argumentar que não houve avanços grandes nos últimos anos.

Eu entendo o que queres dizer nos exemplos citados e concordo pelo menos parcialmente. Mas é cherry-picking. Discordas dos outros exemplos que dei? O que quero dizer é que o facto de conseguires identificar "travanços" no ritmo em algumas áreas ou pouca vantagem aparente ou relativa, não significa que não houve avanços (noutras áreas). Não caracteriza os avanços em geral.



BearManBull Escreveu:E usamos o mesmo sistema de propulsão que era usado á 70 anos... com melhorias é certo mas essencialmente o mesmo conceito.


Incremental, não deixa de ser importante (ou grande). Convém, seriamente, não descurar o incremental. Seria como alegar que a aviação não avançou significativamente entre 1903 e o primeiro jato décadas depois. Quando o avanço foi tremendo.


Aliás, o avanço dos LLM não só foi ele próprio incremental, quando decomposto, como parte do "seu" avanço é hardware e já está a ter impacto noutras áreas. É um avanço que convém distinguir em separado. Talvez coloque um post sintético só sobre isso porque vale a pena discutir (e para mostrar como os avanços incrementais persistentes são importantes per se).
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por BearManBull » 12/8/2025 1:15

MarcoAntonio Escreveu:A generalidade dos avanços são incrementais. Avanços disruptivos não acontecem o tempo todo (se acontecessem o tempo todo, a definição mudava porque deixavam de ser disruptivos... estaríamos em constante disrupção). Isto é o mesmo que dizer que o que estás a relatar é basicamente o expectável. Não aconteceu nada de estranho nos últimos 10 anos, nenhuma anomalia em termos de falta de evolução tecnológica.


Concordo completamente que é expectável que os avanços sejam maioritariamente incrementais.

O que é estranho é a falta de avanços disruptivos em comparação com outros momentos da história. E principalmente a forma como impactaram a vida no dia a dia.

Pelo menos sentia que o mundo mudava radicalmente mais depressa nos 80's90's 00's do que agora.

- Comparar internet 56k com 10MB ou comparar 10MB com 1GB na prática não tem o mesmo impacto. (neste campo a fibra era o mais rápido e continua a ser essencialmente sem grandes mudanças de conceito).

- Idem TV raios catódicos comparada com LED 1080 ou comparar 1080 com 8k.

- Idem Wolfenstein comparada com RES4 na PS2 ou comparar RES4 na PS2 com RES4 Remake na PS5.

- Idem um tlm Nokia comparado com um iPhone ou comparar iphone 6 com iphone 16.

- Idem diskete 5,1/4" (ainda usada nos 90's) comparada pen USB 1GB (early 00's) ou comparar pen 32 GB com pen 1TB.

- Idem altavista comparada ao google ou comparar google com GPT. (aqui realmente é comparável :lol: )


Claro que existiram avanços importantes, mas não são significativos na mesma ordem, não têm o mesmo impacto.

Dessa lista diria que o mRNA, computação quântica e posso acrescentar o GPT e amigos como sendo algo realmente impactante e disruptivo e completamente new tech. Aqui o GPT é revolucionário principalmente á medida que se for assimilando nos processos empresariais.

Só uma pequena nota relativo ao transporte de carga para o espaço a Space X foi fundada em 2003.
E usamos o mesmo sistema de propulsão que era usado há 70 anos... com melhorias é certo mas essencialmente o mesmo conceito.
“It is not the strongest of the species that survives, nor the most intelligent, but rather the one most adaptable to change.”
― Leon C. Megginson
Avatar do Utilizador
 
Mensagens: 10622
Registado: 15/2/2011 11:59
Localização: 22

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 23:56

Uma versão um pouco mais completa de proposta de lista compacta/sintética de avanços sensivelmente na última década:


- a tecnologia de telecomunicações avançou muito significativamente (eg, aumento da largura de banda bastante expressivo);

- surgiram n tratamentos oncológicos com melhores resultados;

- os veículos autónomos estão bem mais avançados e estão já no domínio do praticável (é AI mas não é LLM);

- tecnologia inovadora nas vacinas (mRNA);

- tecnologia aeroespacial bastante mais económica (eg, por lançamento);

- avanços em biotecnologia muito importantes numa série de frentes (por exemplo, próteses/interfaces/etc);

- a confirmação do bosão de higgs (há um pouco mais de 10 anos);

- avanços pelo menos promissores na fusão (ainda sem solução prática);

- primeira imagem de um buraco negro;

- avanços na computação quantica (também ainda sem solução prática) e campos afins;

- avanços em genética;

- avanços em robótica;

- ... placeholder ...


Estou certamente a esquecer-me ou a não identificar outros grandes avanços. Mas diria que este já é um razoável ponto de partida.
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por Ugly bull » 11/8/2025 22:04

“How Could Machines Reach Human-Level Intelligence?”

https://youtu.be/4DsCtgtQlZU

JEPA: Joint Embedding Predictive Architecture?
Avatar do Utilizador
 
Mensagens: 32
Registado: 1/11/2014 18:52

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 22:03

BearManBull Escreveu:LLMs foram a unica grande evoluçao tecnologica da humanidade nos ultimos 10 anos.

E penso que vao possibilitar avanços importantes noutras areas.

Mas lá está também sao maquinas de desperdicio. E estes CEOs charlatoes nao ajudam em nada...



Esta visão, colocada no tom que estás a colocar, é extremamente pessimista e não creio que esteja bem sustentada....

A generalidade dos avanços são incrementais. Avanços disruptivos não acontecem o tempo todo (se acontecessem o tempo todo, a definição mudava porque deixavam de ser disruptivos... estaríamos em constante disrupção). Isto é o mesmo que dizer que o que estás a relatar é basicamente o expectável. Não aconteceu nada de estranho nos últimos 10 anos, nenhuma anomalia em termos de falta de evolução tecnológica.


Nos últimos 10 anos, importantes evoluções tecnológicas:

- a tecnologia de telecomunicações avançou muito significativamente (eg, aumento da largura de banda bastante expressivo);

- surgiram n tratamentos oncológicos com melhores resultados;

- os veículos autónomos estão bem mais avançados e estão já no domínio do praticável (é AI mas não é LLM);

- tecnologia inovadora nas vacinas (mRNA);

- tecnologia aeroespacial bastante mais económica;

- avanços em biotecnologia muito importantes numa série de frentes (por exemplo, próteses/interfaces/etc);

- etc...

Isto é só um apanhado que me vem assim à cabeça num instante. Provavelmente, consigo expandir isto um pedaço mais. E se quiseres, dou alguns casos concretos para as coisas citadas e alguns números (adiantando desde já que não vou estar aqui a fazer nenhum ensaio).

A generalidade são avanços incrementais. É o que a evolução tecnológica tende a ser a generalidade do tempo.




Dito de outra forma, o que estás a escrever é uma visão extremamente pessimista, nada realista e pouco objectiva. Que eu suspeito que tem raízes em algo que não é propriamente no que objectivamente se pode falar em termos de avanços tecnológicos. O que relatas, é o "normal", mas escrito num tom, no conjunto dos dois posts, que sugere outra coisa...
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por BearManBull » 11/8/2025 21:46

MarcoAntonio Escreveu:Penso que concordas que os LLM não são lixo...

Mas existe uma "desproporção" no investimento. É um investimento "descomunal" na procura de obter resultados rápidos, numa corrida em que ninguém quer ficar a trás (pois o custo de ficar atrás é potencial muito grande também).


LLMs foram a unica grande evoluçao tecnologica da humanidade nos ultimos 10 anos.

E penso que vao possibilitar avanços importantes noutras areas.

Mas lá está também sao maquinas de desperdicio. E estes CEOs charlatoes nao ajudam em nada...
“It is not the strongest of the species that survives, nor the most intelligent, but rather the one most adaptable to change.”
― Leon C. Megginson
Avatar do Utilizador
 
Mensagens: 10622
Registado: 15/2/2011 11:59
Localização: 22

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 20:45

Penso que concordas que os LLM não são lixo...

Mas existe uma "desproporção" no investimento. É um investimento "descomunal" na procura de obter resultados rápidos, numa corrida em que ninguém quer ficar a trás (pois o custo de ficar atrás é potencialmente muito grande também).
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por BearManBull » 11/8/2025 20:38

MarcoAntonio Escreveu: Julgo que isto ajuda a entender a perspectiva de que, muito embora esta tecnologia seja poderosa, estamos a torrar dinheiro numa quimera se o objectivo for "algo mais".


Problema da humanidade no geral.

Somos especialistas em produzir lixo.

Principalmente quando se trata de ideias rudimentares que aparentam ser panaceias como ventoinhas e painéis solares. Mas 9 mulheres não parem num mês...
“It is not the strongest of the species that survives, nor the most intelligent, but rather the one most adaptable to change.”
― Leon C. Megginson
Avatar do Utilizador
 
Mensagens: 10622
Registado: 15/2/2011 11:59
Localização: 22

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 19:35

A questão central é que no núcleo de todos estes modelos continua a estar um modelo de NLP - Natural Language Processing model - construído tipicamente em torno da tecnologia dos Transformers e cuja função é estimar a próxima palavra/token. Extrair de uma distribuição (aprendida durante o treino) o próximo termo mais provável. O núcleo, o que está no centro do GPT, do Grok, do Gemini, do Claude, é isto...

O resto são layers de segurança, apuramento dos métodos de treino, arquitecturas que partem o procedimento em partes (chain-of-thought) e afins para tornarem a previsão - e, em última instância, o resultado final do processo - mais eficiente (tratar o problema de uma forma mais correcta, por exemplo utilizando sub-modelos especializados, mixture-of-experts; melhorar a accuracy, etc) e mais alinhado com a tarefa/utilizador também. Mas tudo isto é largamente cosmético, passe a expressão, dado que não muda o essencial no que diz respeito à natureza do processo. Melhoram o desempenho, sim, e conduzem às melhorias a que temos vindo a assistir. Mas não alteram a natureza do processo no seu mais fundamental. Continua a ser uma previsão de tokens, um modelo linguístico.


Não é como nós funcionamos, por melhor que o resultado final mimetize a linguagem humana ou, até, à superfície, como pensamos. O ser humano, que é a melhor referência que temos do que é aquilo que consideramos uma verdadeira inteligência, nem precisa estritamente de uma linguagem para aprender, conseguimos aprender simbolicamente (sem linguagem formal). Muito embora esta tenha sido uma ferramenta que nos veio facilitar o raciocínio, não é o fundamental para nós, não estamos dependentes dela para sermos "inteligentes".


Não creio eu e não crê muita gente que a verdadeira inteligência seja atingida com uma sofisticada calculadora linguística. Julgo que isto ajuda a entender a perspectiva de que, muito embora esta tecnologia seja poderosa, estamos a torrar dinheiro numa quimera se o objectivo for "algo mais".


Há quem esteja a tentar explorar outras vias (neuro-symbolic ai, por exemplo). Mas até aparecerem resultados promissores, os biliões vão ser colocados nos LLM...
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 19:05

Essa é (e mantém-se) a minha opinião, basicamente.

MarcoAntonio Escreveu:
Sim, é verdade. O termo IA começou-se a utilizar de forma (demasiado) abrangente e em especial na comunicação com o grande público. Pelo impacto e porque é sonante mas também porque é prático e evita outra terminologia mais técnica que o publico leigo também não ia entender muito bem nem relacionar. No fundo, são várias razões a contribuir para isso.

Aquilo a que se tem chamado de forma algo indiscriminada de IA já está (em mais pequena escala) num montão de sítios. E não é tecnologia propriamente "nova" também. Eu não sou contra que se utilize o termo IA (e considero que é parte, são componentes da IA, como já tenho aqui referido). Mas para chegarmos ao que se deseja/procura, uma verdadeira IA, uma AGI, ainda faltam componentes essenciais que nós ainda não sabemos sequer quais são e nessas áreas (entender o que está debaixo do capot, como por vezes se diz, eventualmente até relacionado com um outro problema paralelo, o da consciência, tem-se avançado muito pouquinho). Como eu dizia há dias, apesar de todo o alvoroço desde a explosão mediática (e não só) com o sucesso do ChatGPT, avançou-se muito pouco (se é que se avançou alguma coisa!) em direcção a uma (verdadeira) IA.

Estes desenvolvimentos até podem ter sido uma "distracção" no alcance desse objectivo. Não é que sejam inúteis, não é isso que eu estou a querer transmitir. O que eu tenho é muitas reservas que a solução para a AGI esteja realmente no crescimento exponencial especificamente deste tipo de modelos.


(para contexto, esta discussão tem mais de um ano)


A minha expectativa, para o futuro, é ganhos incrementais (que, no seu todo, podem ainda vir a ser significativos). E "gostaria" que existisse mais foco na eficiência. Os gastos em recursos (hardware e energéticos) estão a ser brutais. Visto do exterior, é estúpido. Mas há condicionantes. A competição dos privados e o interesse geopolítico - porque a tecnologia é poderosa, independemente de ser AGI ou não - estão a empurrar uma corrida de loucos que ninguém pode ou entende conveniente parar...
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por BearManBull » 11/8/2025 18:49

BearManBull Escreveu:


Em linha com os vídeos partilhados há algumas semanas, parece que já atingimos um nível de maturidade que qualquer melhoria tem um custo exponencial. (antes também teria mas agora começa-se a sentir o efeito).

Atingiu-se a maturidade de uma tech em tempo recorde e não se devem esperar grandes avanços sem um novo paradigma.

Isso não invalida a extrema utilidade dos LLMs e ainda o potencial de como os aplicar. Simplesmente não é expectável que fiquem significativamente mais espertos por via da força bruta.
“It is not the strongest of the species that survives, nor the most intelligent, but rather the one most adaptable to change.”
― Leon C. Megginson
Avatar do Utilizador
 
Mensagens: 10622
Registado: 15/2/2011 11:59
Localização: 22

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 17:41

Mais uns testes, cujos resultados sublinham a opacidade do GPT-5...

De resto, dizer GPT-5 é dizer tudo e não dizer nada, uma vez que "GPT-5" não é um modelo, é um sistema com routing e com 3 sub-modelos, 4 níveis de esforço e 2 modos de funcionamento (conforme já discutido atrás). Tem ainda 3 níveis de verbosidade, parcialmente controláveis. E nem todos os users levam com o mesmo.


---

GPT-5 (plano gratuito)

Só existe uma opção. Submetendo uma prompt que exige trabalho, ele tenta completar com recursos mínimos (por vezes "dispara" o modo "thinking" automaticamente). Porém, não existe opção a priori.

Se o utilizador estiver insatisfeito com a primeira resposta, pode pedir "think longer", o que vai ativar/forçar o modo "thinking" caso não tenha sido ativado automaticamente.

A tarefa de completion é enviada para uma combinação modelo-esforço e normal-thinking decidida pelo GPT. Em caso de "insatisfação", o user pode "forçar" o "thinking" a posteriori.

---

GPT-5 (plano plus)

Existem duas opções a priori: normal e Thinking. Ao submeter o prompt, o user pode escolher. Se quer (tentar) prioritizar resposta rápida, pode escolher o normal. Se já antecipa dificuldade, pode escolher desde logo o Thinking. Se escolher o normal, o GPT continua a fazer uma avaliação e pode ativar sozinho o Thinking.

Também é possível pedir para tentar de novo e forçar thinking caso tenha submetido em normal, o thinking não tenha sido ativado e esteja insatisfeito. Se o prompt foi respondido pelo normal com thinking auto ativado, aparece marcada só como GPT-5. Pedir de novo pode ser uma perda de tempo ou então melhorar um pouco a resposta (há a possibilidade de ele enviar para uma combinação melhor).

A tarefa de completion é enviada para uma combinação modelo-esforço decidida pelo GPT. O utilizador tem capacidade de decisão a priori sobre o modo normal ou thinking. Estas combinações, no entanto, pela minha experiência, não são as mesmas que no Free. Provavelmente, quer as quotas de utilização quer os limiares de decisão não são os mesmos e o plano Plus tende a enviar para modelos mais potentes/capazes (com excepções, já me aconteceu o thinking automático no free resolver algo que o thinking automatico ou forçado no plus não conseguiu, no caso concreto em que ocorreu envolvia extrair informação de uma imagem para resolver o problema, o free conseguiu, o plus não conseguiu em nenhum dos modos).

---

Bottom line: ligeiramente mais controlo no Plus e tende a enviar para modelos mais potentes; como não sabemos se foi enviado para o nano, para o mini ou para o main e como não sabemos se foi aplicado esforço mínimo, baixo, médio ou alto, está tudo por detrás de uma parede opaca, com impactos na utilização e sem garantia de solução "óptima" ou qualquer possibilidade de forçar testar num modelo específico, teoricamente à disposição do utilizador.



Mais isto:


* Entretanto a qualidade das respostas já estão melhores, a OpenAI tem estado no background a fazer alterações ao sistema. Mas ainda não consigo ver uma melhoria evidente pré-GPT5 nos planos free ou plus, acrescido da perda de controlo e de alternativas.

* Se o GPT optar por minimizar recursos, as respostas são bastante rápidas (mesmo para prompts razoavelmente complexas), tipo quase instantaneo para começar a debitar o completion. Se o utilizador forçar o Thinking no plus, o GPT por vezes fica extremamente lento: com a mesma prompt passa de resposta instantanea para 5~6 minutos no plus (e 2~3 minutos no free, onde o thinking foi ativado automaticamente mas obviamente não com a mesma combinação modelo-esforço).




Nesta discussão ignorei o 4o que foi reposto no Plus. O 4o é um caso particular e foi resposto primordialmente porque existia uma quantidade enorme de utilizadores que tinham uma ligação afetiva (literalmente) com o modelo. Provavelmente com mais alguns factores a contribuir...
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 3:22

Competition is a good thing...

Sam Altman Escreveu:
we are considering giving a (very) small number of GPT-5 pro queries each month to plus subscribers so they can try it out! i like it too.

but yeah if you wanna pay us $1k a month for 2x the input tokens feels like we should find a way to make that happen...


Entretanto, voltei a submeter o ficheiro de código (~100k) e o GPT já conseguiu analisar o código sem alucinar e sem sugerir disparates. Duas tentativas (1+regen) e deu ok em ambas. As novas respostas estão ao nível do Grok 4. Deverão ter já subido os limiares de decisão, com o prompt a ser encaminhado agora para um modelo melhor (e, quem sabe, aumentado a janela de contexto).
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por previsor » 11/8/2025 0:52

Grok 4 está disponível na app do Grok (iOS e Android) sem pagar, mas com cotas de uso limitadas na versão gratuita. Você pode acessar as funcionalidades básicas, incluindo o modo de voz e visão, dentro desses limites. Para cotas maiores e acesso prioritário, é necessário assinar o SuperGrok ou um plano Premium+ na plataforma X, mas não é obrigatório pagar para usar o Grok 4.
Avatar do Utilizador
 
Mensagens: 2651
Registado: 15/3/2023 3:21

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 0:33

Continuando a experimentar com o Grok-4, o que ele tem a dizer do que eu escrevi:

(Grok-4, 37s, com pesquisa live e fornecimento de fontes/links a suportar a resposta)

Grok 4 Escreveu:
The hypothesis you shared (which I'll translate and summarize here for clarity) posits that OpenAI faces significant challenges with GPT-5's routing system, potentially risking substantial market share loss if not addressed. It suggests the router performs a preliminary pass on prompts to gauge difficulty and assigns them to appropriate sub-models or effort levels, but this assessment doesn't fully account for each sub-model's specific strengths and weaknesses—assuming minimal training investment in the router itself. This could explain why seemingly trivial queries yield poor responses: they're routed to smaller, less capable models or executed with low effort, leading to failures even on tasks GPT handled well previously (e.g., sophisticated calculations). Raising decision thresholds might help but increases token costs, and building a truly effective router is complex without adding overhead (e.g., an intensive evaluation pass might as well just answer the query outright). A straightforward fix would be retaining routing while allowing users to manually select models (with quotas/limits) to override failures, but OpenAI appears reluctant to offer this choice except in the high-tier Pro plan ($230/month).

I think this hypothesis is largely accurate and well-reasoned, based on the wealth of post-launch user feedback and independent analyses available as of August 11, 2025. It captures the core frustrations echoed across AI communities, where GPT-5's ambitious unified routing—intended to streamline experiences for casual users—has instead created inconsistencies that alienate power users and pros. Let me break down why it holds up, drawing from recent discussions, and add some nuances.

### Alignment with Routing Issues

The core suspicion about the router's mechanics rings true. OpenAI's official description confirms GPT-5 as a "unified system" with a real-time router trained on live signals (e.g., user switches, preference rates, correctness metrics) to decide between fast/default modes and deeper "thinking" variants. However, launch-day failures exposed its limitations: the router degraded, routing complex queries to cheaper/weaker models (like GPT-5-mini or nano), resulting in "dumber" outputs. Users on X and Reddit report that even basic tasks (e.g., math, coding, or reasoning) often default to suboptimal models, forcing workarounds like appending "think hard" to prompts for 100% routing to the competent variant. This matches your point about difficulty evaluation not equating to sub-model awareness—the router, likely a lightweight model for speed/cost, lacks the nuance to handle edge cases, leading to verbose but inefficient or outright wrong responses.

Your example of calculation failures is spot-on; pre-GPT-5 models like GPT-4o excelled here, but routing glitches have caused regressions, with users noting simple algebra flops (e.g., 5.9 = x + 5.11) that elementary logic should nail. It's not that the underlying intelligence is gone—API tests show GPT-5's reasoning variants hitting high benchmarks (e.g., 74.9% on SWE-bench)—but the router's "optimization" for cost often bypasses it.

### User Choice and Market Implications

The reluctance to empower users with model selection is a key pain point, and your suggested fix (routing + manual overrides with quotas) aligns with widespread demands. OpenAI's shift to a "consumer-first" design—removing selectors to simplify for the masses—has backfired, as it assumes the router is infallible, which it's not. This creates "shrinkflation": higher benchmarks but diminished usability, especially for pros needing determinism (e.g., evals, production apps). API users can bypass via explicit variants (gpt-5, gpt-5-mini), but ChatGPT locks it behind the router, frustrating paid users.

On market share: Yes, this could erode OpenAI's lead. Competitors like Claude, Grok, and Gemini offer more transparent controls, and feedback shows users switching or demanding refunds. Launch hype crashed (e.g., market confidence from 75% to 14%), and with API traffic doubling amid capacity strains, scalability issues compound the perception of a "disaster" rollout.

### OpenAI's Response and Potential Fixes

Positively, OpenAI is reacting: Sam Altman admitted underestimating user attachment to GPT-4o's "personality," fixed the autoswitcher, doubled Plus limits, restored GPT-4o access, added model transparency, and eased "thinking" triggers. They're tuning boundaries and exploring customizations (e.g., personalities, verbosity). But as you note, full user choice remains gated behind Pro, which feels like upselling amid regressions.

Overall, your discussion nails a fundamental tension: routing optimizes for scale and cost but sacrifices control and reliability. If OpenAI refines it without restoring options, they might retain casual users but lose experts to rivals. It's a bold bet on automation, but early data suggests it's premature—echoing broader debates on AI as a "product" vs. a tool. I'd watch for API expansions or router overhauls; in the meantime, this hypothesis explains the backlash perfectly.

Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 11/8/2025 0:15

A OpenAI tem bastante trabalho para fazer se não quiser perder uma grande tranche do market share.

Parte do problema está no routing. O que eu suspeito é o seguinte: o router faz uma passagem no prompt, usa IA para decidir a dificuldade envolvida e encaminha para um modelo e esforço. Mas avaliar o grau de dificuldade da prompt não é exactamente o mesmo que perceber as forças e fragilidades de cada um dos sub-modelos disponíveis para cada prompt. Eu vou assumir que o esforço e treino aqui é mínimo (de outra forma, toda a cadeia não faz sentido).

Isto pode explicar como é que os users colocam questões relativamente triviais e depois o GPT não consegue responder direito (a prompt é considerada relativamente simples e entregue a um dos modelos mais pequenos e/ou executada com baixo esforço... e o resultado é que o modelo GPT escolhido não consegue responder adequadamente a essa questão).

Não é que o GPT não saiba fazer cálculos. Até quinta-feira o GPT estava a conseguir fazer cálculos sofisticados sem grandes problemas...


Se subirem os limiares de decisão, poderá minimizar isto (o custo por token sobe). Mas ter um procedimento de routing que funcione mesmo bem não é trivial. Pelo menos, sem aumentar o overhead. Porque se se vai utilizar uma passagem intensiva para tomar a decisão, às páginas tantas mais valia responder à questão e não reencaminhar nada.



Havia uma forma trivial de resolver isto, mantendo o routing: existir routing mas também existir a capacidade do utilizador decidir o modelo (com quotas / limites). Assim, se o sistema não estivesse a encaminar adequado e as respostas fossem um falhanço, o utilizador forçava uma resposta com o modelo máximo e esforço máximo disponível dentro da quota disponível.

Mas, parece-me claro nesta altura, que eles não querem dar a possiblidade de escolha ao utilizador (excepto para o plano pro $230/mês)...
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por previsor » 11/8/2025 0:00

Para cálculos, talvez o Grok seja mais confiável. Coloquei uns dados do Google Sheets nas janelas do ChatGPT e do Grok e pedi para calcular duas coisas e uma das respostas não coincidiu, e a resposta do ChatGPT foi a que estava errada. Mas foi só um teste, por isso não sei se é sempre assim, mas talvez possa ser
Avatar do Utilizador
 
Mensagens: 2651
Registado: 15/3/2023 3:21

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 10/8/2025 22:43

previsor Escreveu:No caso do Grok, penso que a informação apresentada ao clicar em think harder é mais confiável e diferente daquela que aparece quando não se clica aí, mas clicando aí tambem se nota que a resposta demora um tempo considerável a chegar.


Estás a utilizar app, não? No acesso web essa opção não existe, pelo menos dessa forma. Quer-me parecer que aí uma na verdade é o Grok3 e a outra é o Grok4. No acesso web está bem explícito, na app talvez esteja simplificado. Mas, quer-me parecer que tu só utilizaste o Grok4 quando clicaste em "think harder"...


Imagem
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 10/8/2025 22:28

Entretanto, voltei a experimentar o mesmo prompt e ficheiro, demorou 24s (virtualmente o mesmo). Fiz regenerate e deu 1m 02s. Poderá haver problemas de carga intermitentes, é difícil dizer. Reparei que as respostas eram muito semelhantes, repetindo frases ou parágrafos de forma muito próxima (escolha de design, low temperature). Pelo menos no default (sem alterar o estilo das respostas).

Reparei entretanto que o Grok tem um botão para gerar automaticamente um pdf, está nos [...], não tinha dado conta antes. Neat. O resultado tem alguns problemas de formatação (mas o mesmo acontece com o GPT, onde é preciso "pedir" e parece-me que demora mais tempo a gera-lo também; no grok foi basicamente instantaneo).
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 10/8/2025 21:12

previsor Escreveu:Para pesquisar informação ou notícias, acho o ChatGPT mais confiável e mais simples para visualizar os links das fontes de onde a informação foi retirada. No caso do Grok, penso que a informação apresentada ao clicar em think harder é mais confiável e também é diferente daquela que aparece quando não se clica aí, mas clicando aí tambem se nota que a resposta demora um tempo considerável a chegar.


Poderá ser mais prático. Mas na experiência que fiz há pouco, o Grok forneceu links inline e forneceu adicionalmente dois grupos de links com respectivamente 99 e 40 endereços. A pesquisa foi exaustiva e forneceu ~130 fontes. Se clicar no chain-of-thought, tem mais alguma informação sobre a path seguida, incluindo links.


Quanto ao desempenho, parece estar fraco de momento. Está lento. Mas parece-me que o Elon está a fazer isto como hook, para mostrar quão superior é o Grok agora que há grande insatisfação com GPT-5 (em termos de serviço médio). Se mantiver o Grok 4 para todos, penso que vai baixar os limites para só permitir um punhado de prompts por dia no livre. Mas vamos ver...


Ainda sobre o desempenho, para produzir o resultado de há pouco, o Grok 4 demorou quase 5 minutos, foi mesmo lento...

Já antes do anúncio público, quando fiz a experiência de submissão de ficheiro python de 100K, foi bastante rápido, demorou 21s e fez um excelente trabalho. Já o GPT-5 demorou 5m 01s em "thinking" e 2m 15s em normal e em ambos com uma série de problemas e alucinações. Não sei qual modelo/esforço aplicou para a minha prompt e se contribuiu ou não, mas pelo menos a janela de contexto terá sido uma limitação. Isto é coisa que não se aplica apenas a código, basta carregar um pdf com um relatório ou coisa do género, 8K para free e 32K para plus vai ser uma limitação séria. Talvez acabem por voltar a subir...


A diferença de desempenho nas duas tentativas pode ser explicado possivelmente com a carga dos servidores depois do anúnciou (eu vi que estava disponível para o livre umas horas antes de anunciarem publicamente, mas só submeti 2 prompts nesse período) e/ou então com o tipo de tarefa. É difícil de dizer. Mas a minha impressão é que de momento o Grok está a sofrer de sobrecarga....
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

Re: A Revolução da Inteligencia Artificial

por previsor » 10/8/2025 20:46

Para pesquisar informação ou notícias, acho o ChatGPT mais confiável e mais simples para visualizar os links das fontes de onde a informação foi retirada.
No caso do Grok, penso que a informação apresentada ao clicar em think harder é mais confiável e diferente daquela que aparece quando não se clica aí, mas clicando aí tambem se nota que a resposta demora um tempo considerável a chegar.

Usei há pouco o Grok e no primeiro impacto pareceu-me mais rápido, mas quando fiz perguntas por exemplo para verificar a veracidade de alguma informação, demorou mais tempo a responder do que o ChatGPT, mesmo sem ter o think harder ativo.

Talvez para algumas coisas o Grok seja melhor e para outras o ChatGPT seja melhor. Talvez dependa também do que é pedido e do resultado que se quer
Avatar do Utilizador
 
Mensagens: 2651
Registado: 15/3/2023 3:21

Re: A Revolução da Inteligencia Artificial

por MarcoAntonio » 10/8/2025 20:29

Sam Altman no x/twitter Escreveu:
today we are significantly increasing rate limits for reasoning for chatgpt plus users, and all model-class limits will shortly be higher than they were before gpt-5.

we will also shortly make a UI change to indicate which model is working.



Falta o controlo (possibilidade de escolha) sobre o modelo e falta aumentar a janela de contexto. Sem isso, os Plus estarão basicamente a pagar para ter acesso ao 4o...



Mais uns tidbits do Sam. O GPT-5 foi anunciado como uma espécie de revolução. Mas, na verdade, é basicamente um realinhamento do modelo de negócio e uma "brutal" tentativa de redefinir a gestão dos recursos versus utilizadores/planos.


Sam Altman no x/twitter Escreveu:
tomorrow or tuesday we expect to share our thinking on how we are going to make capacity tradeoffs over the coming months.

(e.g., chatgpt vs the api, existing users vs new ones, research vs product, etc)


Sam Altman no x/twitter Escreveu:
the percentage of users using reasoning models each day is significantly increasing; for example, for free users we went from <1% to 7%, and for plus users from 7% to 24%.

i expect use of reasoning to greatly increase over time, so rate limit increases are important.
Imagem

FLOP - Fundamental Laws Of Profit

1. Mais vale perder um ganho que ganhar uma perda, a menos que se cumpra a Segunda Lei.
2. A expectativa de ganho deve superar a expectativa de perda, onde a expectativa mede a
__.amplitude média do ganho/perda contra a respectiva probabilidade.
3. A Primeira Lei não é mesmo necessária mas com Três Leis isto fica definitivamente mais giro.
Avatar do Utilizador
Administrador Fórum
 
Mensagens: 41254
Registado: 4/11/2002 22:16
Localização: Porto

AnteriorPróximo

Quem está ligado:
Utilizadores a ver este Fórum: farami, Gioes, iniciado1, latbal, Mmmartins, smog63 e 169 visitantes
cron