Presidente da Microsoft defende mecanismo para “desligar” IA

O presidente da Microsoft, Brad Smith, defendeu um mecanismo para frear e até desativar ferramentas de IA em casos de urgência, como o controle de infraestruturas críticas. Em entrevista ao site espanhol El País, Smith se posicionou ainda a favor da regulação de IA e desviou de acusações de violação de direitos autorais pelas ferramentas.

• Microsoft alerta para uso do ChatGPT em ataques digitais sofisticados
• ChatGPT não deve ajudar a criar armas biológicas, diz OpenAI

Freio para a IA

O executivo reforçou uma proposta que ele mesmo fez ao Senado dos EUA durante uma audiência: a criação de uma espécie de freio de segurança para conter a IA quando necessário. De acordo com Smith, “trata-se de abordar o que descrevemos frequentemente como uma ameaça existencial para a humanidade, essa IA descontrolada que tentaria extinguir os humanos”.

Em seguida, o presidente da Microsoft compara a situação com filmes de ficção científica: “algo que me chama a atenção, depois de 30 anos nesta indústria, é que a vida imita a arte. É surpreendente que existam 50 filmes com o mesmo roteiro: uma máquina que pensa por si própria e decide escravizar ou extinguir a humanidade, e a humanidade luta e a vence”, comenta. 

–
Podcast Canaltech: de segunda a sexta-feira, você escuta as principais manchetes e comentários sobre os acontecimentos tecnológicos no Brasil e no mundo. Links aqui: https://canaltech.com.br/podcast/
–

“O que isso nos diz a respeito? Que precisamos ter uma forma de desacelerar ou desligar a IA, especialmente se está controlando um sistema automatizado de infraestrutura crítica”, explica Smith. O presidente alerta para a necessidade de “resolver os problemas de hoje e amanhã” e evitar que isso vire uma situação irreversível nas próximas décadas.

Pedido por regulação

A Microsoft, como empresa, já se declarou favorável à regulação das IAs no mundo, e o presidente reforçou a linha de pensamento. Brad Smith considera a inteligência artificial a “tecnologia mais importante criada desde a invenção da imprensa”, mas também defende formas de controlá-la.

“Precisamos de um nível de regulação que garanta a segurança”, diz. “Às vezes me surpreendo quando vejo pessoas do setor tecnológico que dizem que não devemos ter essa regulação. Quando compramos uma caixa de leite no mercado, não nos preocupamos se é seguro bebê-lo, porque sabemos que tem uma base de segurança que garante isso. Se essa é, como acho que é, a tecnologia mais avançada do planeta, não acho que seja irracional pedir para que tenha pelo menos tanto controle de segurança como temos para uma caixa de leite”, completa.

Por outro lado, reforçou que as medidas precisam de cautela com os custos de administração, principalmente para startups. Segundo ele, empresas como a Microsoft teriam a infra-estrutura para cumprir com todas as regras, mas startups menores talvez não.

Uso da IA no dia a dia

Sobre o uso da IA no cotidiano e na parte criativa, Brad Smith reforçou a ideia de que essas ferramentas são auxiliares, mas não devem fazer todo o trabalho. “O Copilot é um copiloto, não é um piloto. Ele ajuda, dá ideias, mas em última instância precisará usar seu juízo. E acho que isso é que devemos pedir para todo mundo que usa essa tecnologia: usem para serem mais criativos, desenvolverem ideias, ajudar com a escrita. Porém delegar ou externalizar o seu pensamento à máquina seria um erro”, comenta.

Com relação ao processo do The New York Times contra a Microsoft, sob acusação de violação de direitos autorais, Brad Smith reforçou que o uso de material pago deve ser punido, mas que as ferramentas da empresa são criadas para evitarem essa situação.

Além disso, ele desvia de acusações de plágio ou uso de materiais de outras pessoas. “Todos temos o direito, além da lei de direitos autorais, de ler e aprender. A questão é se podemos permitir que as máquinas aprendam da mesma maneira”, completou.

Leia a matéria no Canaltech.

Trending no Canaltech:

• Semana do Cinema 2024 traz ingressos a R$ 12 em todo o Brasil
• Artigo científico com imagens esdrúxulas de IA é retirado do ar
• 🤑 BARATO | Aproveite Galaxy S23 de 512 GB em super oferta
• Adobe lança assistente de IA para analisar e resumir PDFs
• 1º paciente com chip da Neuralink controla mouse pelo pensamento
• Tinder vai verificar identidade de usuários no Brasil