arquiteto da IA quer apertar o botão de desligar
O criador de uma das bases da inteligência artificial moderna está publicamente apavorado e dizendo que pode ser tarde demais para parar o que está vindo.
Fala aí, belesma?
Hoje a newsletter é diferente. Não é sobre ferramenta nova, prompt ou produtividade. Hoje é sobre algo muito maior, o tipo de assunto que muda o rumo da sua carreira, do seu futuro e talvez da humanidade.
O criador de uma das bases da inteligência artificial moderna está publicamente apavorado e dizendo que pode ser tarde demais para parar o que está vindo. Respira e vem comigo.
O nome dele é Yoshua Bengio. Talvez você nunca tenha ouvido falar, mas ele é um dos três padrinhos da inteligência artificial moderna, o cientista mais citado em IA no planeta e passou quarenta anos construindo exatamente a tecnologia que hoje usamos. E agora ele está em entrevistas, jornais e conferências dizendo que estamos criando algo que pode fugir do controle. A ironia é pesada, o arquiteto do motor está dizendo que o carro pode atropelar o mundo. E o que fez ele acordar para isso não foi um paper, foi o neto dele de quatro anos. Ele olhou para a criança e pensou que tipo de mundo esse garoto vai encontrar em vinte anos, se ainda teremos democracia, trabalho e liberdade ou se tudo já terá sido moldado por sistemas mais inteligentes do que nós. Quando alguém que passou a vida inteira dentro do laboratório fala isso, vale prestar atenção.
Mas antes de irmos para o conteúdo quero lembrar que além de ser Chief AI Officer da Exame, eu também sou coordenador dos programas de pós-graduação em Inteligência Artificial para Negócios da Faculdade Saint Paul e por isso eu consegui uma condição especial pra você que acompanha a minha newsletter, basta clicar aqui pra acessar!
Como de costume, trouxe aqui a versão em vídeo dessa newsletter, para assistir na íntegra, basta clicar no link abaixo:
Bengio fala em 10% de chance de extinção humana causada por superinteligência descontrolada. Não é meteoro aleatório nem ficção científica, é risco calculado por quem entende o funcionamento interno desses sistemas. Um em dez. Se fosse a chance de um avião cair, ninguém embarcava.
Quando modelos de linguagem começaram a entender e gerar texto com fluidez, algo virou a chave. Máquinas passaram a compreender linguagem, e linguagem é a base de planejamento, estratégia e influência. Alan Turing já havia avisado que quando máquinas dominassem linguagem entraríamos em território desconhecido, e Bengio viu isso acontecer em tempo real.
