Notícias

May 03, 2023

Temple Grandin: AI e ChatGPT são ótimos, mas ainda precisamos de especialistas.

Tomei conhecimento da IA ​​pela primeira vez em 1968, quando vi um filme que me afetou

Tomei conhecimento da IA ​​pela primeira vez em 1968, quando vi um filme que me tocou profundamente, 2001: Uma Odisséia no Espaço, do diretor Stanley Kubrick. Eu tinha 21 anos. Eu adorava filmes de ficção científica, mas este tinha um significado especial.

Como uma pessoa com autismo, sou mais racional e baseada em fatos do que emocional e baseada em sentimentos, e minha fala foi descrita como monótona ou não modulada. No colégio, algumas crianças me chamavam de "robô" e "gravador". É por isso que me relacionei com HAL, o computador senciente que, com sua voz firme e hiperlógica, ajuda os astronautas em sua missão (até que ele não o faça). Mas não dei muita atenção à IA até 1997, quando o computador IBM Deep Blue derrotou o campeão mundial de xadrez Garry Kasparov. Isso foi uma virada de jogo. Então, em 2003, fiquei impressionado quando dois rovers de Marte foram enviados para passar seus dias navegando na superfície do planeta por conta própria, sem controle humano.

Desde então, a IA encontrou seu caminho em nossas vidas cotidianas, alimentando a Siri, carros autônomos, anúncios pop-up em mídias sociais, algoritmos para investimentos pessoais e muito mais. Mais recentemente, a empresa de tecnologia OpenAI introduziu o ChatGPT, dando acesso gratuito à notável tecnologia. O ChatGPT já passou no exame da barra.

Eu queria saber que experiência o ChatGPT poderia reunir em minha linha de trabalho. Pedi que escrevesse um pequeno parágrafo sobre os princípios comportamentais do manejo do gado. Ele fez um trabalho preciso ao resumir um dos meus artigos, demonstrando que as análises matemáticas são tão boas quanto os dados que são colocados nelas. Então, usando palavras que normalmente não uso, para que não pudesse simplesmente pesquisar meu próprio trabalho, pedi que escrevesse um pequeno parágrafo sobre bons métodos de manejo de gado. Ele escreveu um parágrafo preciso e conciso sobre os princípios comportamentais envolvidos. Para ambos os parágrafos, forneceu referências reais e relevantes. No entanto, em um caso, incluía um diagrama antigo de um projeto realmente ruim de uma instalação - um projeto que um novato no setor não saberia que estava seriamente defeituoso. Para qualquer campo que use IA, ainda precisaremos de especialistas.

Até agora, a maior parte da preocupação com a IA se concentrou em saber se as máquinas acabarão com os empregos das pessoas, se a IA tornará a raça humana redundante. Acredito que essa preocupação é equivocada. Toda revolução tecnológica elimina alguns empregos e cria outros. Os perigos reais, acredito, estão em outro lugar.

Porque eu não sou apenas autista, mas um pensador altamente visual, o significado vem a mim primeiro nas imagens. Minha mente é como um simulador que roda o equivalente a vídeos, mostrando como as coisas acontecem, principalmente como podem dar errado. É a antítese do raciocínio altamente abstrato que levou aos avanços radicais na IA. Mas são os pensadores visuais como eu que estão especialmente equipados para garantir que esse progresso não tenha um preço muito alto.

Para a maioria das pessoas, a IA é uma abstração, algo semelhante à mágica. Isso é perigoso. Seria melhor pensar nisso como fazemos com a infraestrutura física, como estradas ou fábricas de processamento, com suas vulnerabilidades e consequências no mundo real. A IA ajuda nosso mundo a funcionar, mas qualquer utilitário grande e poderoso pode dar errado. Ao longo dos meus 50 anos trabalhando na indústria, vi em primeira mão as reações em cadeia desencadeadas por falhas humanas e a vulnerabilidade de nossas infraestruturas essenciais, como sistemas de água e energia elétrica. Esses sistemas estão agora sob ameaça adicional se, por exemplo, os hackers assumirem o controle dos computadores que controlam o equipamento – um perigo cada vez mais real agora que os programas de IA podem escrever códigos de computador. A melhor maneira de proteger nossas redes de água e eletricidade é usar controles eletromecânicos antiquados que desligam equipamentos vulneráveis ​​se ficarem muito quentes, girarem muito rápido ou acumularem pressão excessiva.

Heather Tal Murphy

Eu vi o futuro que deixou os atores de Hollywood aterrorizados

consulte Mais informação

Eu me diverti brincando com o ChatGPT. Além de perguntar sobre meu campo, busquei sua opinião sobre zebras voadoras roxas. (Determinou que tais criaturas são fictícias e se alimentam de nuvens e arco-íris.) Mas também compartilho do alarme expresso por Sam Altman, chefe do criador do ChatGPT, OpenAI, quando disse recentemente ao Senado: "Se essa tecnologia der errado, pode dar muito errado." Mostrando aos legisladores como o ChatGPT poderia inventar um discurso de senador totalmente convincente, Altman disse a eles que a IA deveria ser impedida de se auto-replicar ou escapar para a natureza. Um programa de IA que fizesse um clone de si mesmo poderia invadir um data center, causando danos inimagináveis ​​se os operadores humanos não estivessem alertas o suficiente para interceder. Se quisermos nos beneficiar da IA, especialmente agora que as ferramentas para usá-la de maneiras exclusivas estão amplamente disponíveis, não precisamos apenas protegê-la como infraestrutura crucial, mas também treinar cidadãos comuns em autodefesa básica de IA.