Nobel de Física se demitiu do Google para criticar IA; saiba o que ele diz
Preocupado com o futuro das máquinas, o cientista britânico-canadense Geoffrey Hinton, 76, se demitiu do Google em 2023 para poder falar livremente sobre os perigos da tecnologia e da inteligência artificial (IA). Nesta terça-feira (8), ele recebeu o Prêmio Nobel de Física. Confira abaixo o que ele diz.
Pioneiro da inteligência artificial, o físico disse ter percebido que os computadores poderiam se tornar mais inteligentes do que as pessoas muito antes do que ele e outros especialistas esperavam. “Sou apenas um cientista que, de repente, percebeu que essas coisas estão ficando mais inteligentes do que nós”, disse Hinton à CNN no ano passado.
O pesquisador alertou que a IA “sabe como programar [e que], então, ela descobrirá maneiras de contornar as restrições que colocamos nela. Ela descobrirá maneiras de manipular as pessoas para fazer o que ela quer.”
*Publicado por Pedro Jordão, com informações de Flávio Ismerin, da CNN Internacional e da Reuters
Amazon, Anthropic e Palantir fazem parceria para transformar a indústria de defesa com IA
Esta parceria entre os 3 players da Tech visa permitir uma integração suave de modelos de inteligência artificial na plataforma da Palantir. Essa aliança deve beneficiar as agências de inteligência e defesa americanas.
A indústria de defesa fez da adoção da IA uma prioridade. Claude, o modelo da Anthropic, agora está acessível na plataforma AIP da Palantir graças à AWS, abrindo caminho para um uso mais operacional.
Essa parceria permite que agências de defesa e inteligência acessem diretamente os modelos Claude por meio do Amazon SageMaker. Hospedado no ambiente credenciado Impact Level 6 da Palantir, ele garante um nível de segurança que atende aos altos padrões da Agência de Sistemas de Informação de Defesa.
O acesso a grandes modelos de linguagem permite o processamento rápido de grandes quantidades de dados. As aplicações previstas são numerosas e específicas para o setor da defesa.
Esta aliança entre Amazon, Anthropic e Palantir representa um passo significativo em direção ao futuro tecnológico da defesa. Deve tornar-se mais rápido e eficaz, a fim de garantir vantagens estratégicas cruciais para os Estados Unidos e seus aliados.
Hellobiz / 19 de novembro de 2024
Ex-Google diz que empresa “está criando Deus” com projeto de IA
Mo Gawdat, que liderou a divisão de inteligência artificial do Google até meados de 2017, tece críticas às práticas da empresa na indústria
O ex-Google Mo Gawdat, que liderou a divisão de inteligência artificial (IA) da empresa de Mountain View, se diz assustado com o que ela vem criando na área, tecendo críticas abertas à companhia em entrevista publicada pelo site The Times.
Gawdat conta que, durante seu trabalho no Google, teve uma revelação assustadora: a empresa estava desenvolvendo um sistema que permitia a braços robóticos encontrarem e agarrarem uma pequena bola. Diz ele que, ao longo do progresso da pesquisa, um dos braços não só agarrou a bolinha, mas também a segurou, dando a entender que estava “se exibindo” para seus criadores.
A entrevista não deixa claro se a ação do braço foi autônoma ou se estava, de alguma forma, inserida em sua capacidade de aprendizado (a descrição geral fala em “identificar, localizar e agarrar”, e as ações teoricamente param por aí).
“Foi aí que percebi o quão assustador isso é”, disse Gawdat, que deixou a empresa em 2017, após a morte de seu filho de 21 anos durante uma cirurgia de rotina. Ele, hoje, responde como empreendedor digital e autor do livro “A Fórmula da Felicidade” (Editora Leya), onde conta a experiência de lidar com a perda.
De acordo com a entrevista, Gawdat acredita que estamos cada vez mais perto de uma “inteligência artificial geral” – o tipo de IA capaz de aprender tudo, e aplicar esse conhecimento de forma a ameaçar a humanidade se assim julgar necessário. Você se lembra do meme “estamos criando a SkyNet”, em referência à IA da franquia de filmes “O Exterminador do Futuro”? Gawdat está se referindo à ela.
“A realidade dos fatos é: nós estamos criando Deus”, ele disse.
Já não é de hoje que personalidades exemplares do setor tecnológico pedem por maiores cuidados nas pesquisas envolvendo a inteligência artificial: Elon Musk, fundador da SpaceX (e da Tesla, e da Boring Company, e da Neuralink…) já disse que, sem as devidas restrições e regulamentações, corremos o risco de sermos conquistados por algum tipo de IA rebelde.
Essas pinceladas generalizadas, porém, ignoram certos problemas que já existem nas tecnologias que já criamos: a Amazon, por exemplo, desenvolveu o sistema Rekognition de reconhecimento facial, oferecendo-o para testes às mãos de autoridades policiais nos EUA. A tecnologia em si acabou paralisada após relatos de que ela trazia viés racista, gerando identificações erradas em pessoas negras por falta de “calibragem” correta.
Esse problema – e diversos outros – já foram citados pela Microsoft, que corriqueiramente pede que as autoridades governamentais de diversos países criem regulamentações e restrições mais firmes na pesquisa e desenvolvimento da IA.
Em outros casos, desenvolvedores independentes já usaram algoritmos preditivos – um braço do machine learning – para criar “falsos nudes” e deepfakes de mulheres na internet – anônimas e celebridades – com graus assustadores de realismo.
Há também as boas práticas, como um museu na Flórida dedicado ao pintor surrealista Salvador Dalí: visitantes do local interagem “diretamente” com o pintor, que os acompanha durante a demonstração e tece comentários sobre as próprias obras. Ou então biólogos que estão usando algoritmos para prever quais doenças de origem animal podem infectar humanos, e acelerar pesquisas para curas e tratamentos.
É fato que há pouca regulamentação no campo da inteligência artificial hoje, e talvez você até compartilhe do medo do ex-Google, de que a empresa está, em essência, “criando Deus”. Entretanto, os medos mais racionais têm solução firmada em fatos, e podem ser atacados e resolvidos com um pouco de esforço.
Você acha que estamos sob a mira de um apocalipse tecnológico? Qual a sua opinião sobre o assunto? Nos conte nos comentários!
Por Rafael Arbulu, editado por André Lucena
Diretor-executivo da Tesla, Elon Musk classifica inteligência artificial como ‘demoníaca’
RIO — Diretor-executivo da fabricante de automóveis elétricos Tesla, Elon Musk descreveu a inteligência artificial (IA) como um “demônio” e “a maior ameaça existencial”, em um discurso a alunos do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês).
Declaração foi feita durante palestra a alunos do Instituto de Tecnologia de Massachusetts
— Acho que deveríamos ser muito cuidadosos com a inteligência artificial. Se eu tivesse que adivinhar qual é a nossa maior ameaça existencial, eu diria que é essa — afirmou durante a sua fala. — Com a inteligência artificial é como se estivéssemos convocando um demônio. Em todas essas histórias há sempre alguém com um pentagrama e água benta falando que pode controlar o demônio. Mas nunca dá certo.
Não é a primeira vez que o magnata faz alertas contra a evolução da IA. Em junho, ele afirmou que investe em companhias que trabalham com inteligência artificial apenas para manter um olho na evolução da tecnologia. Já em agosto, ele reforçou a sua preocupação com a questão ao escrever em seu perfil no Twitter que a IA é “potencialmente mais perigosa que armas nucleares”.
Mas sua palestra não ficou somente nesse assunto. Durante a sua fala, o Musk também discutiu os planos da sua SpaceX para enviar pessoas a Marte.
— É legal enviar uma missão a Marte, mas não é isso o que vai mudar o futuro da humanidade. O que importa é ser capaz de estabelecer uma civilização autossustentável lá, e eu não vejo isso sendo feito pela SpaceX. Mas também não vejo ninguém tentando.
