previsão do mercado: Pausa na inteligência

bizi | 31.03.23

Às vezes pensamos seriamente em criar uma editoria no Bizi chamada “Elon Musk”, pois o bilionário simplesmente não sai dos holofotes do mercado.

Porém, em sua última (polêmica) declaração, ele não estava sozinho.

Mais de 1300 cientistas, empresários e executivos da tecnologia, incluindo Musk, pediram uma pausa de 6 meses no desenvolvimento de IAs que superam o ChatGPT-4, última atualização da OpenAI.

A solicitação foi feita por meio de uma carta aberta, enviada pelo Future of Life Institute e contou com a participação de profissionais de Oxford, Cambridge, Stanford e Columbia, além de empresas como Google, Microsoft e Amazon.

Para eles, a IA e seus avanços representam uma mudança profunda da vida no planeta e isso não pode ser feito de qualquer jeito; é preciso planejar e gerenciar com cuidado. Errados, eles não estão, afinal.

Um dos principais motivos para o pedido é a precipitação da corrida pelo desenvolvimento da IA, sem medidas para comprovar seus impactos.

Segundo o Meio&Mensagem, a carta relembra que “os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por pesquisas e comprovação reconhecida pelos principais laboratórios de tecnologia”.

A carta ainda deixa claro que essa pausa tem que ser pública, verificável e incluir todos os profissionais envolvidos. Se isso não acontecer, passa a ser dever dos governos intervir.

As intenções parecem excelentes, mas será que é isso mesmo?

Apesar de ter feito críticas à IA, o portal Information afirmou que Musk procurou especialistas em IA para concorrer com o ChatGPT há algumas semanas.

Vale lembrar também que a OpenAI, criadora da ferramenta, foi co-fundada por Elon Musk em 2015, mas suas opiniões começaram a divergir em 2018 e Musk saiu da empresa.

A própria carta inclui uma declaração recente da OpenAI:

“Pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros. Para os esforços mais avançados, concordar em limitar a taxa de crescimento da computação usada para criar novos modelos”.

Mas, além dos questionamentos, a carta também traz algumas sugestões. Segundo alguns trechos destacados pela Forbes, a intenção não é parar o desenvolvimento da IA em geral, mas reorientar.

“A pesquisa e desenvolvimento da IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.”
— Pause Giant AI Experiments, Forbes

Aproveitando o momento, a Unesco também se pronunciou. A instituição reforçou aos países que revisem suas recomendações sobre a ética na IA, em um movimento global de conscientização.

Por aqui, vamos ficar de olho para saber se a carta vai ter efeito paliativo ou de lenha na fogueira nos rumos da IA.