Portaria das taxas de regulação da Anacom é inconstitucional

[BearManBull]

Outra vertente da AI a dar os primeiros passos com uns resultados interessantes.

Text to video.

https://twitter.com/MagusWazir/status/1 ... 6750993415


Em breve vamos ter comentadores desportivos gerados por AI, customizados ao nosso gosto pessoal.

E mais para a frente (bastante) poderemos ver o telejornal com um pivot completamente desenhado ao critério de cada um e quem saber não cheguem mesmo filmes gerados em grande parte por AI.

[MarcoAntonio]

Estou curioso de saber se o GPT 4 já consegue assimilar novos conhecimentos. Na verdade ando tentado a pagar os $20 até porque a ferramenta é útil no dia a dia.

Não, a rede depois de treinada não é mexida. Durante a inferência a rede não está a aprender (isto é, os pesos da rede não são alterados). O que parece ter aprendido durante uma conversação é efeito dos tokens que utiliza durante a própria conversação (eram 4 mil tokens no GPT-3.5) e esses tokens dizem respeito apenas à própria conversação (é informação que não é preservada entre utilizações). Seria preciso uma solução diferente para a rede "aprender" com as conversas que mantém com os utilizadores.

[BearManBull]

Ontem tinha feito a mesma pregunta e facultado a resposta.

Não aprendeu, embora eu lhe tivesse preguntado se tinha apreendido esse conhecimento para a posterioridade, ao qual me respondeu que sim.

Mentiu ou melhor não se conhece a si mesmo suficientemente bem. Suponho que não foi treinado com a informação total da engenharia e arquitetura que o formulam.

Estou curioso de saber se o GPT 4 já consegue assimilar novos conhecimentos. Na verdade ando tentado a pagar os $20 até porque a ferramenta é útil no dia a dia.

[BearManBull]

Proibir é o novo lema das neo ditaduras ocidentais.

Tudo que ameaça a concentração de poder é imediatamente repudiada com todas as forças.

Os chineses que aproveitem.

[Àlvaro]

Com mais de 1000 cientista a pedirem a suspensão a coisa talvez se complique...

"Pouco dias depois, já hoje, sexta-feira, o primeiro efeito, também por si inesperado, com a entidade italiana responsável pela proteção de dados a suspender de alguma forma a atividade do ChatGPT naquele país, conforme noticia o La Reppublica: “The Guarantor for the protection of personal data has ordered, with immediate effect, the temporary limitation of the processing of data of Italian users against OpenAI”. O impacto mundial da noticia não se fez tardar: “Italy temporarily bans ChatGPT over privacy concerns” dava logo conta o Financial Times".

[djovarius]

Boas,

O Chat GPT até tem bom gosto no que concerne a viagens e turismo.
Eis a lista dos 10 melhores destinos internacionais, segundo teste da revista alemã Stern (estrela):

Itália
Japão
Austrália
Espanha
EUA
Portugal (diz que é uma terra cheia de boas praias, terras históricas e paisagens de grande beleza)
Nova Zelândia
Tailândia
Grécia
França

Enfim, o rapaz não é nada parvo...

Abraço

dj

[Ramsousa]

O próprio Musk só assinou isso para poder ganhar tempo. Na verdade quer é ser ele mesmo o senhor da AI.

O Musk foi co-fundador da OpenAI. Depois afastou-se para dar mais atenção a Tesla.

https://pt.m.wikipedia.org/wiki/OpenAI

[Àlvaro]

Não sei se vão tarde se vão a tempo de forte regulação, palpita-me mais por aí, começo a ver chover de vários quadrantes.

[BearManBull]

Já vão tarde. Agora já se abriu a caixa de Pandora, com o ChatGTP permitiu finalmente o grande publico perceber o poder destas techs.

Se não for no ocidente vai ser na China, na Rússia, na Índia ou mesmo no mundo árabe.


O próprio Musk só assinou isso para poder ganhar tempo. Na verdade quer é ser ele mesmo o senhor da AI.

[Àlvaro]

Começa a surgir contestação a vários níveis:
https://expresso.pt/sociedade/tecnologi ... l-ab701194

[BearManBull]

300 million jobs could be affected by latest wave of AI, says Goldman Sachs

As many as 300 million full-time jobs around the world could be automated in some way by the newest wave of artificial intelligence that has spawned platforms like ChatGPT, according to Goldman Sachs economists.

They predicted in a report Sunday that 18% of work globally could be computerized, with the effects felt more deeply in advanced economies than emerging markets.

That’s partly because white-collar workers are seen to be more at risk than manual laborers. Administrative workers and lawyers are expected to be most affected, the economists said, compared to the “little effect” seen on physically demanding or outdoor occupations, such as construction and repair work.

In the United States and Europe, approximately two-thirds of current jobs “are exposed to some degree of AI automation,” and up to a quarter of all work could be done by AI completely, the bank estimates.

...

While workplaces may shift, widespread adoption of AI could ultimately increase labor productivity — and boost global GDP by 7% annually over a 10-year period, according to Goldman Sachs.

...

Depois deste pico de inflação, podemos em breve ter um pico de deflação.

Vai haver um verdadeiro teste às SS ocidentais, até porque maior parte das contribuições sao geradas por esse trabalhos de white-collar (vulgo trabalho de escritório).

Se esta projecção se verificar, não vai restar alternativa a reformar completamente a SS. O positivo é que podemos ter quedas brutais nos preços dos serviços e mão de obra e consequentemente nos próprios produtos.

[BearManBull]

GPT-4. "Este é o apelo da ONG Future of Life, em uma peti­ção assi­nada por mais de 200 pes­qui­sa­do­res e espe­ci­a­lis­tas em tec­no­lo­gia, inclu­indo Elon Musk, o pes­qui­sa­dor Yoshua Ben­gio, o co-fun­da­dor da Apple Steve Woz­niak ou o polí­tico ame­ri­cano Andrew Yang.

Que imbecilidade. Se não for deste lado vai ser do lado da China.

Estão todos com medinho que acabem as estruturas de poder actual.

A AI é a unica alternativa viável a criar um mundo justo. Por outro lado é inevitável portanto, o melhor é lutar para ganhar a corrida em vez de andar para aqui com a idiotice das politiquices da idade média. A China não vai parar.

Afinal o Kurzweil tinha razão quando há mais de 20 anos anteviu que eventualmente por volta de 2045 vai ocorrer uma singularidade de conhecimento. Pode acabar por ser um pouco mais tarde mas a menos que ocorra a WWIII ou tenhamos um cataclismo global de qualquer espécie parece ser um evento que simplesmente vai ocorrer. Um crescimento exponencial da informação, o que aprendemos hoje em dias passará a demorar horas e depois segundos.

Para regu­lar a tec­no­lo­gia, os regu­la­do­res pode­riam criar sis­te­mas de veri­fi­ca­ção, auto­má­ti­cos ou huma­nos. Mas a che­gada da IA gera­dora tam­bém é acom­pa­nhada por outros ris­cos na fia­bi­li­dade dos sis­te­mas ou na luta con­tra a desin­for­ma­ção. E quase tudo tem de ser cons­tru­ído. "Tudo estava indo bem enquanto a tec­no­lo­gia se limi­tasse ao mundo aca­dê­mico, por­que não havia ris­cos finan­cei­ros. Com a che­gada ao mer­cado, corre-se o risco de tudo dar uma volta", alerta.

A AI vai consegui gerar identificar facilmente todas as injustiças de um sistema legal. Eventualmente a imprensa vai começar a preguntar às AI pelos conflitos, redundâncias, injustiças e mesmo por leis desenhadas para proteger a corrupção nos regulamentos actuais. Estas tarefas vão acabar por ser triviais para um AI devidamente treinada e vai acabar por expor tudo que é porcaria na legislação. Medo para os politicos....

Elon Musk dupla­mente envol­vido na peti­ção
...
Na rea­li­dade, Elon Musk teria pro­posto, no iní­cio de 2018, assu­mir o con­trolo da Ope­nAI, por­que sen­tia que a orga­ni­za­ção con­cor­rente, a Deep­mind (com­prada pela Goo­gle), estava a avan­çar dema­si­ado. Mas Sam Alt­man (co-fun­da­dor e CEO da Ope­nAI desde a sua cri­a­ção) e os outros aci­o­nis­tas recu­sa­ram, o que levou à saída do empre­sá­rio e ao can­ce­la­mento de "doa­ções impor­tan­tes".

Mais recen­te­mente, ele disse: "a Ope­nAI tor­nou-se uma empresa fechada, que visa o lucro máximo e que é con­tro­lada de fato pela Micro­soft. Não era isso que eu que­ria. "É por isso que R@gis Sab­ba­din man­tém dúvi­das sobre as inten­ções por trás da peti­ção:"Elon Musk pede uma pausa de uma orga­ni­za­ção com a qual ele está em con­flito". Isto não impede que o texto reflicta os receios de toda uma parte do mundo cien­tí­fico e da socie­dade civil, com razão.

Portanto o Must tem medo de ficar para trás... precisa de tempo...

[Opcard]

Cor­rida de inte­li­gên­cia Arti­fi­cial: até os gurus da tec­no­lo­gia estão ficando assus­ta­dos.

AONG Ame­ri­cana Future of Life colo­cou online uma peti­ção, assi­nada por cen­te­nas de inves­ti­ga­do­res e figu­ras tec­no­ló­gi­cas como Elon Musk e Yoshua Ben­gio, que pede às empre­sas que "façam uma pausa durante pelo menos seis meses" na cor­rida por inte­li­gên­cias arti­fi­ci­ais gera­do­ras ilus­tra­das pelo sucesso mete­ó­rico do ChatGPT. Esta cha­mada trans­mite os receios do mundo da inves­ti­ga­ção sobre a falta de sal­va­guar­das em torno desta nova tec­no­lo­gia, por enquanto domi­nada ape­nas por um punhado de gigan­tes da tec­no­lo­gia, como a Goo­gle e a Micro­soft. Expli­ca­cao.
"Pedi­mos a todos os labo­ra­tó­rios de inte­li­gên­cia arti­fi­cial que inter­rom­pam ime­di­a­ta­mente, durante pelo menos seis meses, a for­ma­ção de sis­te­mas de IA mais pode­ro­sos do que
GPT-4. "Este é o apelo da ONG Future of Life, em uma peti­ção assi­nada por mais de 200 pes­qui­sa­do­res e espe­ci­a­lis­tas em tec­no­lo­gia, inclu­indo Elon Musk, o pes­qui­sa­dor Yoshua Ben­gio, o co-fun­da­dor da Apple Steve Woz­niak ou o polí­tico ame­ri­cano Andrew Yang.
O texto adverte con­tra uma cor­rida tec­no­ló­gica que esta­ria "fora de con­trole" e cita "ris­cos pro­fun­dos para a socie­dade e a huma­ni­dade". Para os sig­na­tá­rios, "nin­guém pode com­pre­en­der, pre­ver ou con­tro­lar cor­rec­ta­mente" a implan­ta­ção de IAS gene­ra­ti­vas como o ChatGPT ou o Mid­jour­ney. É por isso que pedem a cri­a­ção de enti­da­des regu­la­do­ras inde­pen­den­tes, a fim de garan­tir que a super­vi­são dos sis­te­mas seja sufi­ci­ente antes da sua implan­ta­ção. Até Sam Alt­man, CEO da Ope­nAI, admi­tiu ter "um pouco de medo" dos exces­sos da IA.



Medos em torno de um mono­pó­lio da inte­li­gên­cia arti­fi­cial
"Não acre­dito nem por um segundo que as empre­sas façam uma pausa na for­ma­ção de sis­te­mas gene­ra­ti­vos ou mesmo que tal pausa seja de inte­resse", diz R7gis Sab­ba­din, dire­tor de inte­li­gên­cia arti­fi­cial do Inrae-Uni­ver­si­dade de Tou­louse e sig­na­tá­rio da peti­ção, con­tac­tado pelo Tri­bune. "Por outro lado, a peti­ção trans­mite uma men­sa­gem impor­tante, uma vez que existe um risco real de que a capa­ci­dade de criar ia gera­dora con­ti­nue a ser prer­ro­ga­tiva de algu­mas gran­des empre­sas e esta­dos, cujos pro­pó­si­tos não são neces­sa­ri­a­mente com­pa­tí­veis com o bem comum. »
O inves­ti­ga­dor observa uma tran­si­ção em larga escala no seu sec­tor e alerta tanto para os ris­cos do mono­pó­lio como para as pre­cau­ções a tomar. "Trata-se de sis­te­mas de caixa preta, que não dão garan­tias sobre os resul­ta­dos que foram divul­ga­dos. Deve­mos ter isso em conta na sua uti­li­za­ção", recorda. Para regu­lar a tec­no­lo­gia, os regu­la­do­res pode­riam criar sis­te­mas de veri­fi­ca­ção, auto­má­ti­cos ou huma­nos. Mas a che­gada da IA gera­dora tam­bém é acom­pa­nhada por outros ris­cos na fia­bi­li­dade dos sis­te­mas ou na luta con­tra a desin­for­ma­ção. E quase tudo tem de ser cons­tru­ído. "Tudo estava indo bem enquanto a tec­no­lo­gia se limi­tasse ao mundo aca­dê­mico, por­que não havia ris­cos finan­cei­ros. Com a che­gada ao mer­cado, corre-se o risco de tudo dar uma volta", alerta.
Elon Musk dupla­mente envol­vido na peti­ção
Ape­sar de um acordo sobre o con­te­údo da men­sa­gem, Rungs­tis Sab­ba­din explica que ainda hesi­tou EM assi­nar a peti­ção. Em causa: Elon Musk não é ape­nas sig­na­tá­rio da peti­ção, é tam­bém um dos prin­ci­pais doa­do­res da ONG e faz parte do seu con­se­lho cien­tí­fico. No entanto, o bili­o­ná­rio tem uma pesada res­pon­sa­bi­li­dade com a Ope­nAI, a empresa por trás do ChatGPT que lidera a cor­rida pela IA, desde que ele foi um de seus co-fun­da­do­res, em 2015.
O empre­sá­rio dei­xou o con­se­lho de admi­nis­tra­ção da orga­ni­za­ção em 2018, ofi­ci­al­mente para evi­tar qual­quer poten­cial con­flito de inte­res­ses com as suas ati­vi­da­des na Tesla. Só que, de acordo com um artigo recente no site espe­ci­a­li­zado Sema­for, esta não é a ver­da­deira razão para a sua par­tida. Na rea­li­dade, Elon Musk teria pro­posto, no iní­cio de 2018, assu­mir o con­trolo da Ope­nAI, por­que sen­tia que a orga­ni­za­ção con­cor­rente, a Deep­mind (com­prada pela Goo­gle), estava a avan­çar dema­si­ado. Mas Sam Alt­man (co-fun­da­dor e CEO da Ope­nAI desde a sua cri­a­ção) e os outros aci­o­nis­tas recu­sa­ram, o que levou à saída do empre­sá­rio e ao can­ce­la­mento de "doa­ções impor­tan­tes".
Naquela época, a Ope­nAI era ape­nas uma orga­ni­za­ção sem fins lucra­ti­vos, que se com­pro­me­tia a publi­car todas as suas pes­qui­sas em código aberto. Mas em 2019, ao mesmo tempo que o pri­meiro inves­ti­mento da Micro­soft, abriu outra estru­tura, desta vez com fins lucra­ti­vos. E desde o lan­ça­mento do ChatGPT, tor­nou-se até a ponta de lança da che­gada de inte­li­gên­cias arti­fi­ci­ais gera­do­ras na indús­tria. Diante dessa situ­a­ção, Elon Musk se posi­ci­ona como crí­tico de sua antiga orga­ni­za­ção. "O ChatGPT é real­mente impres­si­o­nante. Não esta­mos longe de uma IA peri­go­sa­mente forte", tui­tou, por exem­plo.
Mais recen­te­mente, ele disse: "a Ope­nAI tor­nou-se uma empresa fechada, que visa o lucro máximo e que é con­tro­lada de fato pela Micro­soft. Não era isso que eu que­ria. "É por isso que R@gis Sab­ba­din man­tém dúvi­das sobre as inten­ções por trás da peti­ção:"Elon Musk pede uma pausa de uma orga­ni­za­ção com a qual ele está em con­flito". Isto não impede que o texto reflicta os receios de toda uma parte do mundo cien­tí­fico e da socie­dade civil, com razão.

[Opcard]

China 150 000 milhões destinados a IA. Europa 1 000 milhões , já vários dizer que a IA terá o efeito da bomba atómica quem a dominar domina os outros os nossos filhos serão os domésticos dos chineses .

A Europa passa o tempo a criar observatórios para a cor da pele , outro país está num caos porque tem de trabalhar até 64 anos é só para quem tem trabalho fácil o difícil continua com bónus , Franca criou a Europa ela a vai destruir .

Só para actualizar a bandalheira actual na França é um pouco por todo espaço ocidental num poder que só pensa na cor da pele .

“ 441 policiais feridos apenas ontem, …”

[BearManBull]

"Para hac­kers neó­fi­tos, aque­les que têm más inten­ções, mas não neces­sa­ri­a­mente as habi­li­da­des téc­ni­cas para imple­mentá-las, é uma fer­ra­menta mágica. Isto coloca ao seu alcance fer­ra­men­tas que antes eram dema­si­ado com­ple­xas", sub­li­nha Josué Ara­újo, Dire­tor Téc­nico da Orange Cyber­de­fense. "Pas­sa­mos por um ponto de infle­xão. Antes, era neces­sá­rio um know-how impor­tante. O CHATGPT demo­cra­tiza este tipo de fer­ra­men­tas", con­corda Patrick Sena, enge­nheiro de ven­das da Sail­po­int.
Sofis­ti­ca­ção do "phishing"

Não há ferramentas mágicas. Pode ajudar da mesma forma que ler um tutorial online, mas claro organiza a informação de varias fontes esse è o grande trunfo, mas não me parece que retire a complexidade de montar um ataque.

Por outro lado não basta ter acesso a um sistema, é preciso saber o que se quer fazer. Para isso tem de se trabalhar para conhecer o sistema e as aplicações usadas, fazer hacking como nos filmes é pura fantasia, é um trabalho moroso e que em grande parte é dependente do hacking social. Se o objectivo for meramente destruir, e.g.:entupir servidores com ataque DoS é algo que o ChatGTP pode ajudar a alcançar mais facilmente.

Uma vez que o CHATGPT tem uma forte capa­ci­dade ana­lí­tica, tam­bém pode detec­tar pos­sí­veis vul­ne­ra­bi­li­da­des den­tro de um código-fonte que lhe é sub­me­tido. Um hac­ker ético o usou para des­co­brir uma falha durante uma "recom­pensa por bugs" orga­ni­zada pela empresa do Face­book, fazendo com que ele ana­li­sasse tre­chos de código PHP. Os inva­so­res podem fazer exa­ta­mente a mesma coisa para pro­cu­rar um ponto de entrada em um sis­tema de com­pu­ta­dor.

Lá está é uma ferramenta que pode ser usado pelos dois lados, portanto acaba por gerar um equilíbrio.

Desde o lan­ça­mento do CHATGPT, a empresa bri­tâ­nica Dark­trace já obser­vou um aumento na "com­ple­xi­dade lin­gu­ís­tica dos E-mails de ata­ques infor­má­ti­cos, inclu­indo o volume de texto, pon­tu­a­ção, etc.".

Portanto parece que o ChatGTP está sobretudo a ser usado para venderem melhor a banha de cobra, talvez os políticos o usem nos discursos.

"Com­bi­na­dos com outras fer­ra­men­tas de IA, de fácil acesso e que per­mi­tem imi­tar a voz de uma pes­soa conhe­cida (áudio deep­fake) ou mani­pu­lar vídeos (vídeo deep­fake), os ata­can­tes tam­bém podem diver­si­fi­car a sua forma, mesmo que este tipo de ata­ques ou frau­des per­ma­ne­çam rela­ti­va­mente difun­di­dos.

Aqui sim é mais grave, dentro de alguns anos deve ser bastante acessível, fazer uma chamada de vídeo a personificar outra pessoa.

"O que mais me pre­o­cupa é que estas fer­ra­men­tas alte­ram o custo eco­nó­mico de um ata­que. Os Hac­kers pode­rão fazer melhor por menos", acres­centa Kevin Roundy. A pri­meira pro­messa de inte­li­gên­cia arti­fi­cial gera­dora na mai­o­ria dos seto­res de ati­vi­dade, os ganhos de pro­du­ti­vi­dade tam­bém afe­ta­rão a eco­no­mia do crime ... No final," com estas fer­ra­men­tas, é pos­sí­vel gerar todas as fases de um com­pro­misso", resume Josué subes­pé­cie Ara­újo.

Novamente vale para os dois lados, portanto atinge-se um equilibrio.

A Open AI defende-se expli­cando que imple­men­tou fil­tros de pro­te­ção, que supos­ta­mente impe­dem que os seus algo­rit­mos res­pon­dam a pedi­dos para pro­du­zir código mali­ci­oso ou con­te­údo nocivo. Mas todas as expe­ri­ên­cias rea­li­za­das por inves­ti­ga­do­res de segu­rança desde novem­bro pro­va­ram que estas medi­das podem ser facil­mente con­tor­na­das, for­mu­lando habil­mente pedi­dos.

Para usar a Open AI tem de se estar loggado portanto também monitorizar que faz este tipo de pesquisas...

[Opcard]

CHATGPT, GPT4: NOVOS RISCOS PARA A CIBERSEGURANÇA


"Temos que ter cui­dado", expli­cou Sam Alt­man, CEO da ope­nai, empresa que criou os gran­des mode­los de lin­gua­gem de inte­li­gên­cia arti­fi­cial CHATGPT e GPT-4, na quinta-feira pas­sada no canal ame­ri­cano ABC News. Agora que eles sabem como escre­ver códi­gos de com­pu­ta­dor melhor, eles pode­riam ser usa­dos para ata­ques ciber­né­ti­cos. "Tal como os génios liber­ta­dos da sua gar­rafa, estas pode­ro­sas tec­no­lo­gias uti­li­za­das por pes­soas mal-inten­ci­o­na­das terão con­se­quên­cias no domí­nio da ciber­se­gu­rança. São ainda difí­ceis de com­pre­en­der por núme­ros que medem os volu­mes de ata­ques ou inci­den­tes de segu­rança, por falta de sufi­ci­ente retros­pec­tiva. A Ope­nai lan­çou o CHATGPT no final de novem­bro, e o GPT-4 só foi apre­sen­tado na semana pas­sada. Mas outros sinais já mos­tram o cres­cente inte­resse dos hac­kers por essas novas fer­ra­men­tas. De acordo com pes­qui­sa­do­res da empresa Nord VPN, o número de men­sa­gens nos fóruns da dark web sobre como mani­pu­lar a fer­ra­menta CHATGPT aumen­tou de 120 em janeiro para 870 em feve­reiro, um aumento de 625%.
"O uso de inte­li­gên­cia arti­fi­cial por agen­tes mal-inten­ci­o­na­dos não é novo. No entanto, o pro­gresso e a sim­pli­ci­dade de imple­men­ta­ção, em par­ti­cu­lar ofe­re­ci­dos pelo CHATGPT, podem per­mi­tir aumen­tar nova­mente a efi­ci­ên­cia e a quan­ti­dade de con­te­údo mali­ci­oso pro­du­zido", acre­dita Benoit Gru­nem­wald, espe­ci­a­lista em segu­rança ciber­né­tica da Eset France. A par­tir de algu­mas con­sul­tas de lin­gua­gem natu­ral bem for­mu­la­das no CHATGPT, agora é pos­sí­vel gerar ou mon­tar par­tes de código de com­pu­ta­dor mali­ci­oso para exe­cu­tar ata­ques, sem ter habi­li­da­des avan­ça­das de desen­vol­vi­mento. Se os peri­tos estão bas­tante divi­di­dos quanto ao nível de sofis­ti­ca­ção dos códi­gos que é pos­sí­vel alcan­çar, são unâ­ni­mes quanto a esta demo­cra­ti­za­ção da ciber­cri­mi­na­li­dade. "Para hac­kers neó­fi­tos, aque­les que têm más inten­ções, mas não neces­sa­ri­a­mente as habi­li­da­des téc­ni­cas para imple­mentá-las, é uma fer­ra­menta mágica. Isto coloca ao seu alcance fer­ra­men­tas que antes eram dema­si­ado com­ple­xas", sub­li­nha Josué Ara­újo, Dire­tor Téc­nico da Orange Cyber­de­fense. "Pas­sa­mos por um ponto de infle­xão. Antes, era neces­sá­rio um know-how impor­tante. O CHATGPT demo­cra­tiza este tipo de fer­ra­men­tas", con­corda Patrick Sena, enge­nheiro de ven­das da Sail­po­int.
Sofis­ti­ca­ção do "phishing"
Uma vez que o CHATGPT tem uma forte capa­ci­dade ana­lí­tica, tam­bém pode detec­tar pos­sí­veis vul­ne­ra­bi­li­da­des den­tro de um código-fonte que lhe é sub­me­tido. Um hac­ker ético o usou para des­co­brir uma falha durante uma "recom­pensa por bugs" orga­ni­zada pela empresa do Face­book, fazendo com que ele ana­li­sasse tre­chos de código PHP. Os inva­so­res podem fazer exa­ta­mente a mesma coisa para pro­cu­rar um ponto de entrada em um sis­tema de com­pu­ta­dor.
"Em seu atual estado de pro­gresso, a tec­no­lo­gia não vai criar mal­ware mais efi­caz", acres­centa Kevin Roundy, Dire­tor Téc­nico da Nor­ton e pes­qui­sa­dor do Gen.
Mas isso corre o risco de inten­si­fi­car a fre­quên­cia dos ata­ques. "Mais do que o sur­gi­mento de uma nova popu­la­ção de hac­kers, os espe­ci­a­lis­tas em segu­rança estão espe­ci­al­mente pre­o­cu­pa­dos com as pos­si­bi­li­da­des ofe­re­ci­das em ter­mos de sofis­ti­ca­ção de E-mails de phishing ou SMS, essas men­sa­gens que per­mi­tem que os inva­so­res pren­dam uma vítima por meio de um link cli­cá­vel, um anexo ou um pedido de infor­ma­ções con­fi­den­ci­ais. No entanto, o" phishing " con­ti­nua a ser, de longe, o prin­ci­pal vec­tor de ata­ques para cri­mi­no­sos em todo o mundo. Desde o lan­ça­mento do CHATGPT, a empresa bri­tâ­nica Dark­trace já obser­vou um aumento na "com­ple­xi­dade lin­gu­ís­tica dos E-mails de ata­ques infor­má­ti­cos, inclu­indo o volume de texto, pon­tu­a­ção, etc.". "O CHATGPT é par­ti­cu­lar­mente bom em imi­tar esti­los edi­to­ri­ais, é real­mente muito impres­si­o­nante a esse res­peito. Tam­bém pode fazer mui­tas vari­a­ções do mesmo tipo de men­sa­gens, o que as torna mais difí­ceis de detec­tar", acres­centa Kevin Roundy. Quanto mais dire­ci­o­nado e quase per­feito for o e-mail, mais rele­vante será. Mais bem escri­tas, as men­sa­gens tam­bém esta­rão em todas as lín­guas, quando o inglês era até agora o idi­oma pre­fe­rido pelos ata­can­tes. "No ano pas­sado, já haví­a­mos obser­vado um aumento de víti­mas de ciber-extor­são na Europa e na Ásia", recorda Josué Ara­újo. Algo­rit­mos do tipo CHATGPT podem aju­dar muito gru­pos de ata­can­tes a diver­si­fi­car geo­gra­fi­ca­mente. "Com­bi­na­dos com outras fer­ra­men­tas de IA, de fácil acesso e que per­mi­tem imi­tar a voz de uma pes­soa conhe­cida (áudio deep­fake) ou mani­pu­lar vídeos (vídeo deep­fake), os ata­can­tes tam­bém podem diver­si­fi­car a sua forma, mesmo que este tipo de ata­ques ou frau­des per­ma­ne­çam rela­ti­va­mente difun­di­dos. "O que mais me pre­o­cupa é que estas fer­ra­men­tas alte­ram o custo eco­nó­mico de um ata­que. Os Hac­kers pode­rão fazer melhor por menos", acres­centa Kevin Roundy. A pri­meira pro­messa de inte­li­gên­cia arti­fi­cial gera­dora na mai­o­ria dos seto­res de ati­vi­dade, os ganhos de pro­du­ti­vi­dade tam­bém afe­ta­rão a eco­no­mia do crime ... No final," com estas fer­ra­men­tas, é pos­sí­vel gerar todas as fases de um com­pro­misso", resume Josué subes­pé­cie Ara­újo.
A Open AI defende-se expli­cando que imple­men­tou fil­tros de pro­te­ção, que supos­ta­mente impe­dem que os seus algo­rit­mos res­pon­dam a pedi­dos para pro­du­zir código mali­ci­oso ou con­te­údo nocivo. Mas todas as expe­ri­ên­cias rea­li­za­das por inves­ti­ga­do­res de segu­rança desde novem­bro pro­va­ram que estas medi­das podem ser facil­mente con­tor­na­das, for­mu­lando habil­mente pedi­dos.
A rápida difu­são de todos estes gran­des mode­los lin­gu­ís­ti­cos nas socie­da­des corre o risco de per­tur­bar ainda mais a situ­a­ção. "Ini­ci­al­mente, CHATGPT e GPT-4 são fer­ra­men­tas fecha­das. Mas ambos irão melho­rar ao longo do tempo e inte­ra­gir com outras fon­tes, haverá cru­za­mento de infor­ma­ções, o que pode­ria even­tu­al­mente tor­nar o ata­cante ainda mais efi­caz", enfa­tiza Theo Zafi­ka­ros, chefe de segu­rança de sis­te­mas de infor­ma­ção da Ter­ra­nova Secu­rity.
Para as empre­sas e os cida­dãos, a melhor forma de se defen­de­rem é ter a melhor higi­ene digi­tal pos­sí­vel e redo­brar a sua vigi­lân­cia. Por­que se a" enge­nha­ria social " usada em E-mails e men­sa­gens de phishing está ganhando sofis­ti­ca­ção, a natu­reza das soli­ci­ta­ções per­ma­nece a mesma: envio de dinheiro, acesso a dados para comu­ni­ca­ção, anexo para down­load, link para cli­car ... Qual­quer pedido invul­gar ou com carác­ter de emer­gên­cia deve colo­car o chip no ouvido. "Você tem que ter cui­dado antes de for­ne­cer infor­ma­ções pes­so­ais a uma pes­soa com quem você está con­ver­sando on-line", lem­bra St Elimphane Dec­que, enge­nheiro de ven­das da Nor­ton. Por seu lado, as empre­sas espe­ci­a­li­za­das em ciber­se­gu­rança con­ti­nu­a­rão a adap­tar-se. "É neces­sá­rio que os ato­res da ciber­se­gu­rança façam o mesmo e usem as fun­ci­o­na­li­da­des da IA em geral para melho­rar as dis­po­si­ções de defesa. Esta é a com­pe­ti­ção tra­di­ci­o­nal entre a arma e o pei­to­ral", acre­dita Jac­ques Bos­chung, CEO da Empresa de segu­rança Kudelski.

[MarcoAntonio]

Equipa de Stanford disponibilizou um modelo open source com desempenho proximo do ChatGPT, mas baseado no LLaMA (com apenas 7B de parametros e passivel de aer treinado e corrido localmente num computador pessoal).

Repositorio no GitHub:
https://github.com/tatsu-lab/stanford_alpaca

De momento não estão a disponibilizar um modelo treinado (aguardam autorização da Meta) mas pretendem também fazê-lo. Seja como for e com a "receita" e material disponibilizado, já começaram a aparecer na web modelos treinados.

[BearManBull]

5 jaw-dropping things GPT-4 can do that ChatGPT couldn’t

Although OpenAI said the update is “less capable” than humans in many real-world scenarios, it exhibits “human-level performance” on various professional and academic tests. The company said GPT-4 recently passed a simulated law school bar exam with a score around the top 10% of test takers. By contrast, the prior version, GPT-3.5, scored around the bottom 10%. The latest version also performed strongly on the LSAT, GRE, SATs and many AP exams, according to OpenAI.

[MarcoAntonio]

Para já a versão alimentada pelo GPT-4 parece estar disponível apenas na versão paga (ChatGPT Plus) e mesmo assim parece ser com carga distribuida (não será o tempo todo, para toda a gente). Mas já está publicamente disponível.

[BearManBull]

Super release muito acima das expectativas.

Agora já processa imagens.



All moving tooooo fast.

[Opcard]

GPT-4 is coming next week – and it will be multimodal, says Microsoft Germany.



https://www.heise.de/news/GPT-4-is-comi ... 40972.html

[MarcoAntonio]

Working paper:

Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence

Abstract

We examine the productivity effects of a generative artificial intelligence technology—the assistive chatbot ChatGPT—in the context of mid-level professional writing tasks. In a preregistered online experiment, we assign occupation-specific, incentivized writing tasks to 444 college-educated professionals, and randomly expose half of them to ChatGPT. Our results show that ChatGPT substantially raises average productivity: time taken decreases by 0.8 SDs and output quality rises by 0.4 SDs. Inequality between workers decreases, as ChatGPT compresses the productivity distribution by benefiting low-ability workers more. ChatGPT mostly substitutes for worker effort rather than complementing worker skills, and restructures tasks towards idea-generation and editing and away from rough-drafting. Exposure to ChatGPT increases job satisfaction and self-efficacy and heightens both concern and excitement about automation technologies.

3 Discussion

College-educated professionals performing mid-level professional writing tasks experience substantial increases in productivity when given access to ChatGPT. The generative writing tool increases the output quality of low-ability workers while reducing their time spent, and it allows high-ability workers to maintain their quality standards while becoming significantly faster. At the aggregate level, ChatGPT substantially compresses the productivity distribution, reducing inequality. It is also already being used by many workers in their real jobs. The experimental evidence suggests that ChatGPT largely substitutes for worker effort rather than complementing workers’ skills, potentially causing a decrease in demand for workers, with adverse distributional effects as capital owners gain at the expense of workers.

The experiment has several important limitations worth enumerating. First, the tasks are relatively short, self-contained, and lack a dimension of context-specific knowledge, which may inflate our estimates of ChatGPT’s usefulness. The results on job satisfaction and self-efficacy are similarly limited, reflecting enjoyment of a small task rather than feelings about a worker’s whole job, as evidenced by the fact that there is no difference between the treatment and control groups in real job satisfaction after two weeks. Second, an experiment, by its nature, captures only direct, immediate effects of ChatGPT on the selected occupations. There will be many indirect, reinforcing, or counteracting “general-equilibrium” effects as labor markets and production systems adapt to the advent of technologies like ChatGPT. The effects of ChatGPT will also likely vary by occupation, task, and skill level.

Only time and future research will fully reveal how ChatGPT and its successors will affect labor markets. For now, the evidence we provide suggests that generative AI technologies will—and have already begun—to noticeably impact workers.

[MarcoAntonio]

Esses tópicos já foram cobertos aqui no thread, flavc.

O ChatGPT é basicamente uma demo (a grande novidade é essencialmente ter sido exposto ao público como nenhum outro modelo deste tipo tinha sido até agora) e nestas iterações ele não está ligado à internet para consultar/verificar/actualizar informação. Este é um dos aspectos formidáveis do ChatGPT: basicamente tudo o que ele debita é resultado do treino a que foi sujeito, ele nem sequer está a consultar nada na web.

E esse é precisamente um dos passos seguintes, que não só é previsível (como forma de melhorar o desempenho e expandir capacidades) como já começou a ser implementado (google bard e o novo bing da microsoft). O potencial é enorme, mas são ferramentas que ainda estão em desenvolvimento (espera-se que nas próximas semanas/meses tanto a Google como a Microsoft tenham uma versão final estável a ser utilizada). Outro potencial para estes modelos e sobre o que já se está a trabalhar também são API's que os liguem a outras ferramentas. Tenho referido por exemplo o Wolfram dado que o ChatGPT é fraco com matemática, simples ou avançada (o que não é de estranhar, ele foi treinado para conversar e muito basicamente foi ensinado a fazer isto "associando palavras", ie ele não foi explicitamente treinado para resolver problemas; nem sequer sobre como fazer contas). O Github também já disponibiliza o serviço Copilot (ver aqui) que faz uso de modelos de linguagem natural (a que o ChatGPT pertence) para assistir programadores/developers. Finalmente, os modelos generativos não se limitam aos modelos de linguagem natural, espreita o DALL-E (também da OpenAI) ou o Midjourney para ver o que já é possível fazer com modelos generativos em computer vision.

Não é apenas o facto do potencial ser enorme, é que os frutos já estão à vista...

[Flavc]

Aqui e por agora quero fazer apenas duas observações:
Muito interessante este parágrafo do Homembule “ O ChatGTP é na sua essência uma base de dados inteligente. Mas não é determinística, nem é omnipolomata” e designadamente esta última palavra. Fez-me lembrar o obra-prima do filme “Voando sobre um ninho de cucos” e a observação de um dos artistas numa cena de reunião de terapia de grupo ao usar a palavra “peculiar”, eheh.
Como é habitual no Caldeirão bota-se muito boa faladura também sobre este tema. Eu gostava de saber quem é o dono do ChatGTP e qual a sua avaliação no mercado e o seu potencial como base de dados interativa com cada utilizador e produção de respostas certas?

[BearManBull]

Sim realmente esse exemplo encaixa em algumas das limitações que foram descritas.

O ChatGTP não foi treinado com toda a informação digital existente, foi usado um sub set de tudo o que existe online (podem também ter usado alguma informação que não disponível online)
O ChatGTP não é uma ferramenta com capacidade identificação de padrões visuais, neste caso a menos que exista algo online que diz "No reverso de um ceitil de D Afonso V o escudo está sobre uma cruz de avis/está assente numa cruz de avis" a máquina não vai conseguir extrapolar essa informação mesmo que exista uma fotografia do ceitil, com esses elementos devidamente identificados.


O ChatGTP é na sua essência uma base de dados inteligente. Mas não é determinística, nem é omnipolomata.