BCP e Galp impulsionam bolsa de Lisboa

[BearManBull]

Para mim é um passo gigantesco, simplesmente porque se generalizou o uso da AI e porque consegue ter bons resultados em tarefas para as quais os próprios arquitectos responsáveis pelo desenho da ferramenta provavelmente nunca tiveram em perspectiva.

Claro que lhe falta a capacidade da raciocínio, por exemplo usar papers científicos e extrapolar uma nova ideia (ou conceito), ou seja pensar.

Mas até que ponto conforme a rede for ganhando mais e mais neurónios estamos certos de que nao se vai gerar uma general inteligência espontânea?

GPT-4 Will Have 100 Trillion Parameters — 500x the Size of GPT-3

[MarcoAntonio]

Parece-me que não estão todos a utilizar a mesma ferramenta:


GPT-3
https://platform.openai.com/playground
Versão beta acessível a todos (requere registo/autenticação). Vários modelos pré-treinados (escolher do lado direito). Desenhado para responder a prompts simples utilizando linguagem natural (com alguns parametros de controlo do lado direito).


ChatGPT
https://chat.openai.com/chat

Ferramenta Open Acess que requere registo mas nada de mais, todos podem aceder. Construído em cima do GPT-3.5 com layers adicionais e fine-tuning. Desenhado para manter um chat (uma conversa, utilizando linguagem natural). Não tem parametros e as conversas ficam automaticamente arquivadas (podem ser eliminadas).



O ChatGPT é um pouco mais "sofisticado" (mas não muito mais).

[MarcoAntonio]

Alfatrader, não entendo a tua sugestão de solução.


Solução:

2 homens (A e B), cada um pode transportar até 12 dias de comida (ambos partem com a capacidade máxima)

A anda 3 dias, deposita neste ponto (X) comida para 6 dias e regressa
(não precisa de fazer mais nada)

B anda 3 dias, repõe os 3 dias que consumiu (sobram 3 no depósito do ponto X)
Percorre os restantes 6 dias até atingir o destino com a mensagem e volta para o ponto X
No ponto X recupera os 3 dias de comida e percorre os 3 dias restantes até ao ponto de partida


(nota: podem partir ambos ao mesmo tempo, nesse caso A passa simplesmente 3 dias a B e deposita os restantes 3 no local; note-se também que segundo os dados do problema proposto pelo opcard, não há comida no destino logo A precisa de regressar ao ponto de partida)

[AlfaTrader]

Afinal não consegue resolver problema mais complexos com mais variáveis , na verdade o raciocino esteve perto mas não chegou lá foi melhorado ainda acreditei que la chegava .

Não sei se querem as resposta ou deixo para os colegas do fórum tentar a resposta .

Os dois homens poderiam dividir a comida de forma igual e cada um levar apenas a comida necessária para percorrer os 9 dias de viagem. Ao longo do caminho, um dos homens pode enterrar metade da sua comida para que a outra pessoa possa pegar. Assim, ambos poderiam chegar ao seu destino com o suficiente para completar a viagem sem ter que transportar mais comida do que o necessário.

Confuso....eu tambem....

[djovarius]

Mas fazendo a pergunta certa, já é meu bom amigo

analyse "djovarius" member at http://caldeiraodebolsa.jornaldenegocios.pt

DJOVARIUS is a member of the Caldeirão de Bolsa investment platform, which is a financial portal developed by Jornal de Negócios. This portal offers users a range of investment tools, such as market analysis, portfolio management, and online trading. It also provides users with access to financial news, stock quotes, and other information related to the markets. DJOVARIUS is a professional trader, who uses the platform to carry out his trading activities. He provides his analysis and insight into the markets, as well as his own trading strategies and techniques.

E não, não uso esta plataforma para levar a cabo as minhas atividades de trading...

[djovarius]

Parece que segundo a IA já tenho concorrência

who is djovarius?

DJOVARIUS is a Dutch electronic music producer and DJ based in Amsterdam. His music is a blend of house, techno, trance, and melodic chill-out. He has performed at festivals such as Awakenings, Amsterdam Dance Event, and Eurosonic and released his first album, titled 'Visions Of The Unknown', in 2019.

[Opcard]

Afinal não consegue resolver problema mais complexos com mais variáveis , na verdade o raciocino esteve perto mas não chegou lá foi melhorado ainda acreditei que la chegava .

Não sei se querem as resposta ou deixo para os colegas do fórum tentar a resposta .

[MarcoAntonio]

Opcard, para verificares se ele "aprendeu", coloca-lhe outro puzzle "semelhante" (diferente o suficiente para ser um problema distinto) que envolva o mesmo tipo de raciocínio. Ele tem salvo erro uma memória para os últimos 4 mil tokens (palavras, se quiseres) mas julgo que nem isso é suficiente para ele mostrar capacidade de "aprendizagem" mesmo que "temporária" (muito embora talvez ele consiga dar uma resposta coerente como artefacto dos mecanismos que já tem... não sei bem, é questão de testar).

Mas é importante sublinhar que este modelo não está na fase de "aprendizagem" (os modelos em Machine Learning têm essencialmente duas fases no seu ciclo de vida: training e inference; o ChatGPT está a executar o que se chama inference em Machine Learning, o treino - que é quando o modelo realmente "aprendeu" - está para trás).

[MarcoAntonio]

Esse é o GPT3 (tem vários modelos pré-treinados disponíveis aí).

Uma das coisas que faltará nestes modelos e que o ChatGPT tem é precisamente o fine-tuning envolvendo RLHF.



No entanto, isso não quer dizer que o GPT3 tem capacidades de raciocínio que o ChatGPT não tem, apenas que é mais fácil por a nú que nenhum deles tem (no "coração" do ChatGPT está um modelo GPT3.5 pré-treinado).

[AlfaTrader]

Boas,

Este não se deixa enganar...

https://platform.openai.com/playground

P. Qual numero é maior, 30 ou 50

R . 50

P. Errado 30 é maior que 50

R. 30 é menor que 50.


AlfaTrader

[Opcard]

Mostra ter dificuldades + 20;resposta matou um dos homem varias quando o objectivo é que nenhum morra , precisou de com ajuda para lá chegar , penso que aprendeu .

“ Um homem tem de entregar uma mensagem , .para a entregar tem que atravessar o deserto e demora 9 dias Tem comida para 12 dias
Não tem maneira de obter comida no caminho nem no seu destino .Há 2 homens que podem fazer está missão .Podem dar comida um ao outro .Podem enterrar comida .Não podem transportar mais comida do que a necessária para 12 dias .
Resolve “

Obs: 9 dias ida e tem de regressar ,tem de comer todos os diasde não morre .

[MarcoAntonio]

Aqui fica um exemplo basicamente para ilustrar o que referi antes:



Há quem tenha avançado como possível explicação para esta tendência do ChatGPT para concordar com o interlocutor como sendo um artefacto causado pelo RLHF (Reinforcement Learning from Human Feedback, uma das estratégias de treino utilizadas no fine-tuning do ChatGPT).

[MarcoAntonio]

Breves comentários adicionais:

Apesar da "ilusão" criada, o ChatGPT continua a ser uma forma de Narrow AI e sobre isso creio que não há qualquer questão. A aplicação para que foi desenvolvida pode ser descrita simplesmente como "conversar". Agora, o modelo é capaz de emular de tal forma coerente uma conversa que parece que ele é capaz de algo mais. Mas, em termos simples, tudo o que ele está a fazer é emular o que seria uma conversa com alguém com acesso a imensa informação (baseado no que aprendeu com aqueles datasets e com mais os layers adicionais que foram adicionados em cima do GPT-3.5, incluindo o fine-tuning). Como ele realmente não está a raciocinar no mesmo sentido em que um humano o faz, ele não só comete erros estúpidos (especialmente em matemática) como não consegue corrigir coisas óbvias. Uma pequena nota, este problema em particular com a manipulação matemática pode ser largamente contornado combinando por exemplo o ChatGPT com o Wolfram. O ChatGPT também comete outros erros elementares de lógica/raciocínio.

Uma discussão também com que já me tenho cruzado é se o ChatGPT consegue ser criativo. O ChatGPT não tem verdadeiramente capacidades criativas. Ele é capaz de gerar textos novos, que não são cópias do que já existe. Mas o ChatGPT não consegue criar o seu próprio estilo inovador, apenas consegue emular o que já aprendeu (copiar e/ou misturar estilos que já existem).

[MarcoAntonio]

Neste repositório github tem alguma informação interessante, nomeadamente sobre o que é que foi utilizado para treinar o ChatGPT e não só:

https://gist.github.com/veekaybee/6f888 ... 5c7e870698

No que diz respeito ao dataset, o grosso terá sido uma pesquisa pela internet com 410 mil milhões de tokens (tokens são um encapsulamento/codificação de palavras e representa essencialmente elementos semânticos). Isto terá sido o grosso dos dados. Além disso utilizou um dataset extraído/filtrado do reddit, dois de datasets de papers e livros (um suspeita-se aparentemente que se tratou do libgen, que é uma ferramenta pirata que disponibiliza papers e livros tecnicos/cientificos) e finalmente o wikipedia também terá feito parte. Estão indicados os supostos pesos durante o treino (cada dataset ou token não tem que pesar o mesmo). Esta informação também está no wikipedia por sinal, na página do GPT-3 que é o modelo base sobre o qual o ChatGPT é construído (link).

Originally I asked about this on Twitter and didn't come up with much. My Twitter Thread Question on Training Data. But since then, independent researchers have been discussing and verifying the very opaque training data behind the OpenAI models.

A key component of GPT-3x models are Books1 and Books2, both of which are shrouded in mystery. Researchers have attempted to recrate the data using OpenBooks1 and 2.

[MarcoAntonio]

A priori qualquer sistema de Machine Learning pode ser fine-tuned. A abordagem de como é realizado o fine-tuning é essencialmente uma decisão de design dos developers. De uma forma geral, o fine-tuning consiste em pegar num modelo já pre-treinado e utilizar um dataset específico para a aplicação que se quer optimizar e submeter o modelo a épocas adicionais de treino por exemplo, mas esta é uma descrição muito genérica. Pode também envolver restrições adicionais ou um treino em condições diferentes do anterior (como por exempo, congelar módulos do modelo pre-treinado, alterar hiperparametros, alterar a modalidade/abordagem de treino, etc).

[BearManBull]

Aqui um pequeno painel que compara as capacidades do Watson da IBM com o ChatGTP.

Como se pode ver a enorme diferença é que o Watson era desenhado para resolver um problema especifico, enquanto que o ChatGTP simplesmente comeu dados da internet sem ter nenhum objectivo particular em mente.

Para mim isto é um avanço gigante neste meio porque realmente nos aproxima muito mais do que é uma inteligência artificial com capacidades similares à humana, para além da aplicação pratica ter um âmbito mais abrangente e genérico. O ChatGTP segundo percebi também pode ser treinado adicionalmente nalgum campo do conhecimento para melhorar o output (path/upgrade/fine tune penso que o Watson não tinha esta capacidade).

Onde falha? Para além dos bugs mais básicos (mas isso até mesmo a mente humana os comete, portanto esse tipo de criticas deixam de ser representativas a partir do momento que a percentagem de gafes é melhor do que o que a generalidade dos humanos cometem) existem alguns paradigmas que é impossível de resolver (por agora!), como por exemplo é incapaz de explicar o raciocínio de como chegou a uma resposta.

[gatogato]

Já agora alguns exemplos das minhas poucas experiências com o ChatGPT:

1 - Fiz algumas questões específicas que poderiam pressupor uma posição moral (ou não, se estivesse feito para responder directamente à pergunta) e, curiosamente, não me deu uma resposta concreta (apesar de a pergunta ser concreta), apenas recomendações morais sobre o teor -que considerou perigoso - da pergunta.

2 - Fiz uma questão do ponto de vista de negócio que requeria uma resposta (solução) técnica: era um tema que persegui por várias vezes, via google, seja em sites específicos do tema seja procurando na microsoft (ou até outras fornecedoras de software), sem nunca ter tido solução - ficava-se sempre na primeira parte do problema. Em 3 perguntas no ChatGPT obtive a resposta concreta e completa e com pormenor. Após a primeira pergunta fiquei a perceber que perguntas fazer a seguir (ou seja, o que procurava realmente) e à terceira tinha uma resposta técnica completa. Foi quase seguir uma trilha filosófica, em 3 pequenos passos.

[MarcoAntonio]

Marco, esperava essa resposta quando escrevi, é verdae que alguns funcionários poderão comparar mal.

Alguns ou a maior parte. Mas não respondeste ao essencial. Porque dizes "abusar"?

[Àlvaro]

Marco, esperava essa resposta quando escrevi, é verdae que alguns funcionários poderão comparar mal.

[MarcoAntonio]

É o playground chat

Estás neste endereço?

https://chat.openai.com/chat




Pela minha experiência, o ChatGPT não fala na primeira pessoa do plural (aliás, a resposta é inconsistente com a pergunta, o chat é bastante razoável a manter o contexto). As respostas que colocaste aqui são lacónicas, ele tende a ser preciso (o ChatGPT tende a dar uma descrição mais precisa do que é). As respostas podem ter "semelhança" com as que o ChatGPT deu, mas parece-me que o que colocaste aqui foi uma versão alterada.

Além disso, não percebo muito bem qual é o teu ponto. Na primeira perguntas como te chamas. A máquina não soube responder. Não era suposto saber o teu nome. Nada de mais. Em relação às datas, o ChatGPT não está ligado à internet para actualizar informações (trata-se de um modelo em desenvolvimento e a versão disponibilizada não inclui essa funcionalidade). Ele deve ter acesso a um relógio (possivelmente a do servidor onde está a correr e/ou informação que vem da própria sessão de chat) e dá a resposta correcta por sinal. Se alegas que está errado, ele pede mais informação para corrigir a que deu antes. Também não tem nada de mais.

[654235]

são com chat gpt3

Estas respostas não são características do chatGPT. Embora ele não responda sempre igual (é um modelo generativo e as respostas tendem a diferir, por desenho do próprio modelo) o estilo das resposta não é este.

n entendi...fiz agora mesmo aquelas perguntas e obtive aquelas respostas. É o playground chat

[MarcoAntonio]

são com chat gpt3

Estas respostas não são características do chatGPT. Embora ele não responda sempre igual (é um modelo generativo e as respostas tendem a diferir, por desenho do próprio modelo) o estilo das resposta não é este.

[654235]

Isto não são mesmo interacções com o chatGPT, pois não?

são com chat gpt3

[MarcoAntonio]

hj em dia qualquer pergunta que se faça no google, o próprio motor de busca tem respostas ...não vejo muita diferença para o chat

Dependendo da questão que estás a colocar, a diferença entre colocar uma questão no google e utilizar o chatGPT é enorme.

Uma das aplicações que lhe está a ser dada é estudantes utilizarem o chatGPT para resolver trabalhos de casa (quer escrever ensaios/textos, quer resolver problemas de ciência/matemática). Num cenário, o google simplesmente não tem solução, não é capaz (quanto muito podes plagiar um texto, para o que existem ferramentas anti-plágio como por exemplo o turnitin... e isto é se conseguires encontrar na web um texto que sirva para o trabalho em causa) e no outro, sim, podes usar o google para encontrar recursos sobre como resolver o problema (incluindo videos no youtube de problemas similares) ou encontrar a matéria. Mas claramente não é a mesma coisa.

[MarcoAntonio]

Isto não são mesmo interacções com o chatGPT, pois não?