A rápida evolução da IA e a chegada da AGI levantam riscos para a humanidade?

Há uma enorme pressão e competitividade no desenvolvimento de IAs cada vez mais disruptivas. Mas será que estas tecnologias podem mesmo ameaçar a humanidade? A resposta estará na responsabilização, no controlo de segurança e no desenvolvimento constante de soluções para estes potenciais riscos.

Potencialidades da IA

Bill Gates, cofundador da Microsoft, refere que este avanço tecnológico é o mais importante em várias décadas, que transformará a educação, a saúde, o trabalho, e a produtividade da humanidade como um todo. O mundo precisa de garantir que todos beneficiem desta tecnologia para que ajude a reduzir a desigualdade e não contribua ainda mais para a mesma.

Qualquer lançamento de tecnologias disruptivas gera desconforto, e esta em particular levanta várias questões sobre a força de trabalho, o sistema legal ou preconceito. As IAs também cometem erros factuais, e necessitam de muito treino e desenvolvimento adicional antes de poderem ser utilizadas. Todas as suas testagens devem ser feitas com muito cuidado e ser devidamente regulamentadas, por isso em certas áreas a sua adoção poderá demorar mais tempo.

IA e AGI

Desenvolver IA e AGI (Artificial General Intelligence) tem sido o sonho da indústria da computação, e a sua evolução está a ser a larga escala e a uma velocidade alucinante. O GPT-4, que não era suposto ter sido lançado tão cedo, já é um vasto modelo multimodal, com a capacidade de compreender áudio, vídeo, imagens, interpretar e resolver problemas, criar um site de raiz e integrar ainda a racionalidade e o senso comum.

As IAs superinteligentes estão no nosso futuro próximo. Mais cedo do que antecipávamos, teremos uma AGI incrivelmente poderosa com capacidade de fazer tudo o que um cérebro humano faz, mas sem limites na sua memória ou velocidade de resposta.

Potenciais riscos e problemas para a humanidade

Como todas as invenções, esta também pode ser usada para bons ou maus fins, daí a crescente necessidade por parte dos governos de trabalhar em parceria com o setor privado maneiras de limitar os riscos. Como estas tecnologias estão em constante aprendizagem, é importante que a sua utilização não parta de problemas sistémicos como o racismo, sexismo ou discriminação de pessoas com deficiência, criando mais polarização do privilégio e aumentando a desigualdade. É importante que os algoritmos corrijam esses erros sistémicos para que haja um caminho para uma sociedade mais justa e igualitária.

Além disso, há a possibilidade das IAs fugirem ao controlo dos próprios criadores e utilizadores, considerando-os uma ameaça e ignorando os seus interesses. As IAs ainda mais avançadas, poderão estabelecer os seus próprios objetivos, e os mesmos não poderão estar em conflito com os da humanidade.

Estes desafios têm levantado a enorme questão: fará sentido impedir o desenvolvimento desta IA?

Carta aberta de apelo à interrupção do desenvolvimento de IA avançada

Elon Musk, CEO da Tesla e SpaceX, e um dos cofundadores iniciais da OpenAI, juntamente com mais de mil pessoas, assinou uma carta aberta emitida pelo Future of Life Institute, apelando à interrupção das experiências avançadas em IA em todos os laboratórios por, pelo menos, seis meses. O objetivo é sensibilizar os formuladores de políticas governamentais e as autoridades reguladoras para desenvolver, implementar e auditar protocolos de segurança, a fim de proteger a sociedade de quaisquer danos potenciais.

Entre as políticas sugeridas para o desenvolvimento de sistemas robustos de governação de IA estão:

  • Autoridades reguladoras novas e capazes dedicadas à IA;
  • Supervisão e rastreio de sistemas de IA e grandes pools de elevada capacidade computacional;
  • Sistemas de proveniência de marca de água para ajudar na distinção de conteúdo real ou gerado artificialmente e rastrear fugas de modelos;
  • Ecossistema robusto de auditoria e certificação;
  • Responsabilidade por danos causados pela IA;
  • Financiamento público para a investigação técnica em matéria de segurança da IA;
  • Instituições com bons recursos para lidar com as perturbações económicas e políticas que a IA causará.

O futuro

Prevê-se uma enorme explosão de empresas com novas utilizações de IA, bem como formas de melhorar a própria tecnologia. As IAs poderão ser desenvolvidas especificamente para cada setor ou área, cada uma com possibilidades e potencialidades infinitas, ou até o desenvolvimento de uma única Inteligência Artificial geral que possa aprender qualquer tarefa.

Com um financiamento confiável e as medidas certas, os governos e a filantropia podem garantir que as IAs sejam utilizadas para reduzir a desigualdades ao procurar soluções que possam suportar os países mais carenciados e a humanidade poderá desfrutar de um futuro promissor de oportunidades de crescimento.

Metamorfose Digital com a Izertis

A Izertis é uma das mais prestigiadas consultoras tecnológicas internacionais com atividade em mais de 50 países. Com a sua cultura ágil e flexibilidade de adaptação, apresenta uma capacidade de evolução rápida aos desafios do mercado.

Através de parcerias tecnológicas de referência e do comprovado expertise dos nossos profissionais, asseguramos elevada preocupação na entrega de sistemas precisos, seguros, transparentes e confiáveis.

Entre em contato através de [email protected] para sermos o seu aliado de transformação digital, com uma infinidade de oportunidades de otimização, transversais a toda a sua organização.

Últimos artigos