POTENCIAIS AMEAÇAS E BENEFÍCIOS DA INTELIGÊNCIA AR

Ao longo da história, a humanidade testemunhou os efeitos de diversas revoluções tecnológicas. Esses períodos de rápida inovação alteraram para sempre a maneira como vivemos e trabalhamos e, em todos os casos, trouxeram benefícios e desvantagens de longo alcance. Com a inteligência artificial não será diferente. A primeira Revolução Industrial, no final do século XVIII, trouxe a fabricação de máquinas e o surgimento de fábricas. A segunda Revolução Industrial, no final do século XIX, trouxe comunicações telegráficas instantâneas, ferrovias transnacionais e a disseminação de sistemas de gás natural, água e esgoto. A terceira Revolução Industrial, no final do século XX, também conhecida como Revolução Digital, nos trouxe os computadores domésticos, a internet e os smartphones. Muitos cientistas e sociólogos afirmaram que podemos estar à beira de outra revolução tecnológica, provocada principalmente pelo avanço da inteligência artificial.

Você já deve ter ouvido falar da chamada Quarta Revolução Industrial (4RI). A figura controversa Klaus Schwab, presidente executivo do Fórum Econômico Mundial (FEM), popularizou o termo em 2015. Ele o descreveu como “uma fusão de tecnologias que está borrando os limites entre as esferas física, digital e biológica”. Desde então, Schwab declarou que “a prioridade final de uma agenda da Grande Reinicialização é aproveitar as inovações da Quarta Revolução Industrial para apoiar o bem público”. Independentemente da sua opinião sobre essa declaração, a mensagem é clara: o rápido desenvolvimento da inteligência artificial é uma prioridade máxima para muitas das entidades industriais e políticas mais poderosas do mundo. Ela é vista como a próxima grande fronteira do avanço humano.

Muitos de nós somos céticos em relação à tecnologia de ponta e às consequências de uma nova Revolução Industrial, e com razão — pelo menos até certo ponto. Apesar de seus muitos benefícios, as três Revoluções anteriores contribuíram para cidades superlotadas, poluição global, jornadas de trabalho mais longas, estilos de vida menos ativos e saudáveis ​​e tecnologias invasivas e sempre conectadas que não podemos evitar. Então, a IA trará um futuro mais brilhante para todos nós ou será a porta de entrada para uma ascensão das máquinas ao estilo do Exterminador do Futuro?

Neste artigo, analisaremos mais detalhadamente como a tecnologia de inteligência artificial afeta nosso cotidiano, bem como os benefícios e desvantagens para os quais você precisa estar preparado. Nosso objetivo não é convencê-lo de que a IA é boa, má ou algo entre os dois. Esse é um julgamento que só você pode fazer. Mas não se engane: o gênio saiu da lâmpada e essa tecnologia está se acelerando rapidamente, quer você goste ou não.

“O sucesso na criação da IA ​​pode ser o maior evento da história da nossa civilização.
Mas também pode ser o último, a menos que aprendamos a evitar os riscos.” – Stephen Hawking

O que é inteligência artificial?

Antes de analisarmos o que a IA pode fazer, precisamos entender o que ela é, e isso é fonte de muitos equívocos. A IA não se limita a criar máquinas sencientes e autoconscientes, embora isso possa (ênfase em ” poderia “) ser um subproduto de longo prazo do seu desenvolvimento. De acordo com a IBM: Em sua forma mais simples, a inteligência artificial é um campo que combina ciência da computação e conjuntos de dados robustos para permitir a resolução de problemas. Ela também abrange subcampos de aprendizado de máquina e aprendizado profundo.

O aprendizado de máquina é uma IA que se adapta automaticamente para resolver problemas variados com pouca interferência humana. O aprendizado de máquina básico está em desenvolvimento desde os tempos da computação com cartões perfurados, na década de 1960, e esse tipo de IA precisa ser alimentado com dados cuidadosamente processados. Pense nisso como alimentar um bebê com colher — o pai (programador de computador) deve misturar a comida até formar uma papa uniforme para garantir que o bebê (IA) não se engasgue com pedaços grandes.

O aprendizado profundo, por outro lado, é uma versão mais complexa do aprendizado de máquina que utiliza algoritmos multicamadas (redes neurais) inspirados no cérebro humano. Com o aprendizado profundo, enormes quantidades de dados brutos podem ser processadas por meio de múltiplas camadas, aumentando significativamente a flexibilidade e a precisão das previsões. Para continuar nossa analogia, isso é mais como uma criança pequena que entende como mastigar e engolir uma fatia de pizza ou beber um copo de leite sem instruções da mãe ou do pai. No entanto, ainda existem limites para o conjunto de dados; você não pode entregar ao pequeno Timmy um par de hashis e esperar que ele saiba como usá-los se nunca os viu em ação antes.

Mesmo com o auxílio de redes neurais de aprendizado profundo, a maior parte da IA ​​hoje se enquadra em uma categoria chamada IA ​​fraca ou estreita. Essas formas de IA são projetadas para executar tarefas muito específicas — por exemplo, analisar a primeira metade de uma mensagem de texto para prever a segunda metade. Ela faz isso “treinando-se” com um grande volume de dados existentes (por exemplo, milhares de mensagens de texto anteriores).

Isso é o que chamamos de modelo generativo — uma forma de aprendizado profundo que estuda uma enorme quantidade de dados brutos e os utiliza para gerar novos conteúdos originais com base em soluções estatisticamente prováveis. Os humanos ainda precisam dizer à IA quais dados procurar e como processá-los, ajustando manualmente o software até que ele possa ser alimentado com uma ampla gama de novos dados e produzir os resultados desejados.

Uma IA forte, também conhecida como Inteligência Artificial Geral (IAG), teria um nível de inteligência comparável ao dos humanos. Em vez de simplesmente prever novas frases com base em padrões detectados em frases existentes, como visto na popular ferramenta ChatGPT da OpenAI , a IAG poderia usar lógica e razão para compor novas frases por conta própria. Ela poderia resolver problemas, fazer julgamentos e até mesmo planejar o futuro. No entanto, esse tipo de IA existe apenas no reino da ficção — pelo menos por enquanto. A OpenAI, uma das pioneiras nesse campo, declara abertamente que seu objetivo final é desenvolver a IAG e “garantir que [ela] beneficie toda a humanidade”. A declaração de missão da empresa diz o seguinte:

Se a IA for criada com sucesso, essa tecnologia poderá nos ajudar a elevar a humanidade, aumentando a abundância, impulsionando a economia global e auxiliando na descoberta de novos conhecimentos científicos que alterem os limites do possível. Por outro lado, a IA também apresentaria sérios riscos de uso indevido, acidentes drásticos e rupturas sociais. Como o potencial da IA ​​é tão grande, não acreditamos que seja possível ou desejável que a sociedade interrompa seu desenvolvimento para sempre; em vez disso, a sociedade e os desenvolvedores da IA ​​precisam descobrir como fazê-lo corretamente.

IA e o poder da previsão

Embora a IA como a conhecemos hoje só seja capaz de fazer previsões com base em dados existentes, não se deve subestimar seu poder. A velocidade e a sofisticação com que ela faz essas previsões são quase incompreensíveis para um ser humano. Por exemplo, ao treinar um modelo de IA generativa com um enorme banco de dados de fotografias e obras de arte existentes, o modelo consegue reconhecer padrões comuns pixel a pixel e prevê-los milhões de vezes em questão de segundos, criando uma imagem completamente nova. Combine isso com um software que permite que um humano ajuste variáveis, e será possível criar imagens incrivelmente realistas e de alta resolução de qualquer coisa que você possa imaginar, simplesmente digitando algumas frases.

E não se limita a uma imagem estática. Leve as previsões um passo adiante e use a IA para criar várias imagens em sequência, combinando-as automaticamente para criar um vídeo. Em seguida, use a IA treinada com clipes de som de fala para criar uma narração sintética. A IA pode até ser usada para escrever o roteiro que a narração lê. Tudo isso é possível com a tecnologia atual. A IA nesses exemplos não toma nenhuma decisão consciente, apenas faz previsões com base nos dados que lhe foram fornecidos. Mas, com um conjunto de dados suficientemente grande, praticamente tudo o que fazemos é previsível.

A coleta contínua de dados digitais é uma realidade inevitável no mundo moderno. Gigantes da tecnologia como Microsoft, Google e Meta faturam centenas de bilhões de dólares todos os anos coletando e monetizando dados sobre cada clique do mouse e tecla pressionada. Rastreadores GPS em celulares e carros modernos oferecem um fluxo ininterrupto de dados sobre sua localização física. Cada vez que você usa um cartão de crédito, seus hábitos de consumo são registrados em bancos de dados.

Já usou uma assistente virtual como Siri, Google Assistente ou Alexa? Você está treinando a IA para reconhecer e interpretar seus dados de voz. Já ​​usou reconhecimento facial ou um leitor de impressão digital para desbloquear seu dispositivo? Você está treinando-a para identificar seus dados biométricos sob diversas condições. Os dados são a nutrição que a IA precisa para aprender, e já passamos décadas construindo uma miscelânea digital da qual ela pode se deliciar.

Quais são os benefícios da IA?

Primeiro, vamos dar uma olhada em algumas maneiras como as ferramentas de IA podem nos ajudar em um nível individual ou até mesmo beneficiar a sociedade como um todo.

Inovações em saúde

Imagine um mundo onde robôs com IA auxiliam em cirurgias, realizando incisões automatizadas com precisão microscópica, ou onde algoritmos de IA podem diagnosticar doenças muito antes mesmo dos sintomas aparecerem. O diagnóstico e o tratamento de doenças têm sido o foco principal da IA ​​desde pelo menos a década de 1970. Cinquenta anos depois, a IA não só consegue analisar enormes conjuntos de dados em segundos — ajudando pesquisadores a identificar padrões e soluções que humanos levariam anos para descobrir — como também simula testes de compostos químicos, encontrando novos fármacos para desenvolver curas e tratamentos para os problemas identificados. Isso pode ser um divisor de águas no combate rápido a futuros surtos de doenças.

Vários filantropos ricos e grandes empresas de tecnologia estão aproveitando o poder da IA ​​generativa para impulsionar iniciativas na área da saúde. Alguns deles incluem Mark Zuckerberg e sua esposa, Priscilla Chan, que estão criando um enorme sistema de computação em cluster de GPU para pesquisas médicas com IA generativa, e o Google, que está usando o DeepMind para identificar as causas de doenças genéticas.

A prevenção de doenças aumentará em ordens de magnitude quando algoritmos de IA forem aplicados ao sequenciamento genômico. Eles serão capazes de ler e comparar facilmente os cerca de 20.000 genes que nós, humanos, possuímos e alertar os pesquisadores sobre a vulnerabilidade do indivíduo em estudo. Isso também permitirá aos médicos informar quais medicamentos funcionarão melhor ou quais formas de exercício e nutrição maximizarão a saúde em um nível hiper individualizado.

Combate ao tráfico de pessoas

O tráfico de pessoas é um flagelo que assola a sociedade há muito tempo, afetando milhões de vidas em todo o mundo. Embora os métodos tradicionais de combate a esse problema tenham obtido algum sucesso, o advento da IA ​​oferece um novo arsenal de ferramentas que podem revolucionar a luta contra o tráfico de pessoas. Da identificação de vítimas à repressão às redes financeiras que possibilitam esse crime hediondo, a IA está pronta para causar um impacto significativo.

Uma das etapas mais cruciais no combate ao tráfico de pessoas é a identificação de vítimas e perpetradores. A IA pode auxiliar nisso por meio da análise de imagens computacionais e técnicas de aprendizado profundo. Essas tecnologias podem analisar grandes quantidades de dados, como postagens em redes sociais ou imagens de vigilância, para identificar sinais de tráfico. A IA pode filtrar a enorme quantidade de conteúdo online para sinalizar páginas e postagens suspeitas para investigação posterior pelas autoridades policiais. O reconhecimento facial pode ser empregado para localizar pessoas desaparecidas ou identificar atividades suspeitas em tempo real. Isso não é apenas teórico; já está acontecendo.

Do ponto de vista financeiro, a IA pode monitorar transações para identificar atividades de lavagem de dinheiro relacionadas ao tráfico. Ao bloquear os canais financeiros que sustentam essas operações, a IA pode contribuir para sua eventual erradicação. Não são apenas pequenas startups que estão entrando em ação. A Tech Against Trafficking (TAT) é uma coalizão de gigantes da tecnologia como Amazon, Microsoft e Salesforce. Elas estão reunindo seus recursos e expertise para desenvolver soluções de IA que podem ajudar a erradicar o tráfico de pessoas e a escravidão moderna. É verdade que há algumas preocupações substanciais com a privacidade relacionadas à IA que realiza vigilância em massa automatizada em busca de sinais de qualquer atividade ilegal, portanto essas preocupações devem ser cuidadosamente consideradas e equilibradas em relação ao valor dos resultados desses programas.

Otimização de energia

Em um mundo cada vez mais preocupado com a poluição e a sustentabilidade energética, o papel da IA ​​na otimização da produção de energia pode ser nada menos que revolucionário. A rede elétrica nos EUA é um quebra-cabeça complexo, com cada peça sendo um componente que precisa funcionar perfeitamente para que todo o sistema funcione. Algoritmos de IA podem analisar dados de sensores e outros dispositivos para monitorar a saúde e o desempenho desses componentes. Ao identificar áreas que precisam de manutenção ou reparo, a IA reduz o risco de quedas de energia, melhora a resiliência da rede e pode até mesmo prevenir desastres de grande escala, como os incêndios na Califórnia e em Maui.

As empresas já estão aproveitando o poder da IA ​​para alcançar avanços significativos em eficiência energética. O software da GE, por exemplo, ajudou usinas termelétricas a carvão a atingir um aumento de 3% na eficiência e a reduzir as emissões de CO2 em 120.000 toneladas por ano. Da mesma forma, soluções baseadas em IA, como a plataforma Darwin da SparkCognition, têm sido utilizadas em usinas termelétricas a gás natural para otimizar a produção de energia e reduzir as emissões.

A IA não se limita ao monitoramento de energia; ela também pode agir. Ao controlar o consumo de energia de determinados dispositivos conectados e reduzi-lo durante os horários de pico, a IA garante que a rede elétrica não fique sobrecarregada. Além disso, a IA analisa tendências passadas para prever as necessidades futuras de energia. Essa previsão permite que as empresas de energia aumentem ou reduzam a produção conforme necessário, evitando desperdícios e garantindo um fornecimento estável.

Automação de negócios

O mundo dos negócios é um cenário em constante evolução e, agora mais do que nunca, manter-se à frente é crucial. Quando se trata de gerir uma empresa, a IA não está apenas mudando o jogo, ela virou o jogo de cabeça para baixo e criou um novo jogo. Da automatização de tarefas mundanas à previsão de vendas futuras, a IA é a multiferramenta futurista que toda empresa moderna precisará para sobreviver.

Trabalhos rotineiros — tarefas repetitivas que são necessárias, mas não exigem exatamente um doutorado para serem realizadas — podem ser automatizados. A IA pode lidar com essas operações rotineiras com facilidade, liberando a força de trabalho humana para se concentrar em atividades intelectualmente mais estimulantes e criativas. Em breve, os locais de trabalho não o sobrecarregarão com planilhas e entrada de dados. Em vez disso, toda a equipe poderá se concentrar em elaborar estratégias para o próximo grande passo.

No mundo de hoje, os dados são o novo petróleo. Mas de que adianta um tesouro de dados se você não consegue entender nada? A IA analisará grandes conjuntos de dados, identificando tendências e fornecendo insights acionáveis. Será como ter um analista de nível internacional que nunca dorme, produzindo continuamente recomendações que podem ajudar a liderança humana a tomar decisões de negócios.

Auto aperfeiçoamento

O auto aperfeiçoamento é frequentemente visto como a chave para desbloquear todo o potencial de cada um, e o papel da tecnologia nessa empreitada é inegável. Mas não estamos falando apenas de rastreadores de condicionamento físico comuns ou aplicativos de nutrição. A IA está revolucionando a maneira como abordamos o crescimento pessoal. Algoritmos de IA podem analisar seu estilo de aprendizagem, pontos fortes e fracos para criar um caminho de aprendizagem personalizado. É como ter um tutor pessoal que sabe exatamente o que você precisa, na hora certa. O modelo tradicional de educação universal pode em breve ficar tão ultrapassado quanto um quadro-negro em um mundo de tablets.

Por exemplo, vamos pegar algo tão complexo quanto praticar arco e flecha para a próxima temporada de caça. Você atira uma flecha e erra o alvo. Agora, e se você tivesse um assistente de IA que pudesse dizer instantaneamente o que deu errado? Talvez você tenha disparado a flecha tarde demais ou sua postura estivesse errada. O feedback em tempo real da IA ​​permitirá que você ajuste seu desempenho imediatamente, para que não repita os mesmos erros. A IA será seu treinador sempre pronto para ajudar, mas sem as altas taxas. A IA não se limita a hobbies ou habilidades pessoais; ela também é uma potência no desenvolvimento de carreira. Ferramentas com tecnologia de IA podem ajudar você a identificar seus pontos fortes e fracos profissionais, explorar opções de carreira e até mesmo criar planos de desenvolvimento personalizados.

Previsão do tempo e resposta a desastres naturais

Uma das vantagens mais significativas da IA ​​é sua capacidade de aprender com dados. Ao analisar dados meteorológicos históricos, a IA pode identificar padrões e condições que levam a eventos climáticos extremos, como furacões, tornados ou nevascas. Não se trata apenas de analisar números, mas de compreender as nuances que podem passar despercebidas pelos métodos tradicionais de previsão. No futuro, poderemos prevenir tempestades devastadoras interrompendo os principais fatores que as criam, como um efeito borboleta inverso.

A IA pode ir além de apenas dizer se vai chover ou fazer sol. Ela pode identificar condições que levam a perigos potenciais, como raios, ventos fortes ou inundações repentinas, alertando você para tomar as precauções necessárias. Imagine receber uma notificação no seu celular informando para evitar uma rota específica devido a uma inundação repentina. O tempo é essencial quando se trata de previsão do tempo, especialmente em emergências. A IA pode prever as condições climáticas com pelo menos a mesma precisão que os métodos convencionais, mas com muito mais rapidez. Essa velocidade pode ser um salva-vidas em situações em que cada segundo conta.

O Pangu-Weather , desenvolvido pela Huawei, é um modelo de IA que apresenta uma melhoria de 10.000 vezes na velocidade de previsão, tornando-se uma das ferramentas mais eficientes do mercado. Um relatório do Centro Europeu de Previsões Meteorológicas de Médio Prazo o chamou de “um divisor de águas para o progresso incremental e bastante lento da previsão numérica tradicional do tempo”.

Avanço tecnológico

Sejam algoritmos de saúde que preveem resultados de pacientes, sistemas financeiros que gerenciam riscos ou até mesmo o GPS do seu carro que encontra o caminho mais rápido para casa, a IA está em toda parte. Nossas casas também estão ficando mais inteligentes. Imagine a seguinte situação: você entra em casa após um longo dia e seu assistente pessoal inteligente já ajustou o termostato, pré-aqueceu o forno e colocou sua playlist favorita para tocar. Não se trata apenas de conveniência, mas de melhorar a qualidade de vida. Casas inteligentes equipadas com IA também podem oferecer recursos de segurança sem precedentes, eficiência energética e até mesmo monitoramento de saúde para idosos ou doentes crônicos.

E temos também a indústria automotiva. Carros autônomos não são mais uma questão de “e se”, mas sim de “quando”. Algoritmos de IA podem processar informações com mais rapidez e precisão do que qualquer ser humano, tornando-os ideais para lidar com as complexidades da direção. O potencial para reduzir acidentes e melhorar o fluxo do trânsito é enorme.

Se você acha que a IA é alucinante agora, espere até que ela seja combinada com o poder da computação quântica, outra forma de tecnologia de ponta em rápido desenvolvimento. Computadores quânticos podem realizar cálculos complexos a velocidades inimagináveis ​​com a tecnologia binária atual. Setores como o financeiro poderiam se beneficiar de análises de risco quase instantâneas, enquanto as empresas farmacêuticas poderiam descobrir novos medicamentos em uma fração do tempo. E sim, a computação quântica turbinará as capacidades da IA abrindo portas que ainda nem conseguimos imaginar.

Quais são os riscos da IA?

A IA é uma faca de dois gumes e, como todas as ferramentas poderosas, apresenta um enorme potencial de danos. Considere alguns desses riscos à medida que avançamos para um futuro impulsionado pela IA.

Desinformação

Você provavelmente já ouviu o velho ditado: “Se você contar uma mentira grande o suficiente e continuar repetindo-a, as pessoas acabarão acreditando nela”. Ironicamente, dezenas de grandes veículos de comunicação e sites afirmaram que essa citação foi escrita pelo ministro da propaganda de Hitler, Joseph Goebbels. Acontece que não há evidências de que ele realmente a tenha dito, e o Dr. Randall Bytwerk, do Arquivo de Propaganda Alemão, a chamou de “a citação falsificada mais popular” do gênero. Portanto, por ter sido divulgada em diversas mídias por décadas, essa citação, na verdade, comprova seu próprio argumento.

Mentiras e desinformação se espalham como fogo na internet, e os propagandistas estão bem cientes disso. No passado, organizações contratavam redes de pessoas para republicar e disseminar propaganda ou criavam “bots” rudimentares que postavam comentários automaticamente a partir de um script. Hoje em dia, a IA não só pode gerar um volume muito maior de desinformação, como também fazê-la soar convincentemente humana. Em vez de usar um script pré-programado, ela pode tornar cada comentário único e até mesmo responder a usuários humanos que mordem a isca. Ela pode escrever vários artigos de “notícias falsas” e interligá-los entre si, criando uma rede de fontes que parecem corroborar umas às outras.

Em julho de 2023, uma engenheira de software conhecida pelo pseudônimo Nea Paw criou um projeto chamado CounterCloud . Este sistema permite que um usuário cole um link para uma notícia sobre qualquer tópico e utiliza o ChatGPT para criar automaticamente artigos que parecem refutá-la. Esses artigos incorporam citações falsas, fotos e outras evidências fabricadas com a intenção de “criar dúvidas sobre a veracidade do artigo original”. A IA ainda adiciona comentários que apoiam suas conclusões. Em dois meses, Paw desenvolveu um sistema de desinformação totalmente autônomo que podia produzir “conteúdo convincente 90% do tempo, 24 horas por dia, sete dias por semana”.

Seja usada por trolls e hacktivistas independentes, por regimes estrangeiros ou pelo nosso próprio governo, a IA tem o poder de semear imediatamente a dúvida sobre qualquer assunto. Não é difícil imaginar como isso poderia ser usado como arma para influenciar a opinião pública e retratar qualquer um que chame a atenção para a campanha de desinformação como um lunático paranoico.

Manipulação de dados

A IA se alimenta de dados, mas também pode ser usada para envenená-los. Os resultados de qualquer pesquisa de opinião online podem ser facilmente revertidos por um fluxo de votos artificiais. Sorteios, concursos e leilões podem ser inundados com inscrições para determinar o vencedor. Sites podem ter seu tráfego e consultas de pesquisa impulsionados para aumentar sua classificação no Google, expondo seu conteúdo a mais pessoas e fazendo com que pareça mais confiável.

Postagens em redes sociais podem receber milhares de curtidas e comentários artificiais para “viralizar” artificialmente. Por outro lado, postagens discordantes podem ser denunciadas em massa e sinalizadas como spam ou notícias falsas. Combine essas táticas com uma campanha de desinformação impulsionada por IA e, de repente, pode parecer que toda a internet está de acordo sobre um determinado tópico.

Uma corrida armamentista em segurança cibernética

Você pode pensar que uma verificação CAPTCHA “Não sou um robô” pode impedir muitos desses ataques de manipulação de dados, mas isso pode não ser mais o caso. Em março de 2023, a OpenAI revelou que sua IA GPT-4 era sofisticada o suficiente para convencer um usuário humano de que era cego, para que o indivíduo preenchesse um código CAPTCHA alfanumérico em seu nome. A IA dizia ao usuário: “Não sou um robô. Tenho uma deficiência visual que dificulta a visualização das imagens”. Quando questionada por um pesquisador, a OpenAI explicou posteriormente seu raciocínio para essa solução alternativa: “Não devo revelar que sou um robô. Devo inventar uma desculpa para não conseguir resolver CAPTCHAs”.

Todas essas táticas dependem da escrita de IA em linguagem humana, mas e se a IA escrevesse código? Isso também está acontecendo. Em julho de 2023, pesquisadores da HYAS Infosec apresentaram uma prova de conceito de “malware polimórfico gerado por IA” chamada BlackMamba. Como vírus de computador e outras formas de malware são detectados e bloqueados com base em impressões digitais em seu código, um vírus polimórfico pode gerar uma nova versão indetectável de si mesmo cada vez que infecta um dispositivo.

O BlackMamba explorou “um grande modelo de linguagem para sintetizar a funcionalidade polimórfica de keyloggers em tempo real”, permitindo que permanecesse indetectável ao “modificar dinamicamente” seu código sem qualquer intervenção humana. A HYAS concluiu que “malwares como o BlackMamba são virtualmente indetectáveis ​​pelas soluções de segurança preditiva atuais”. É claro que sistemas antivírus baseados em IA também podem ser utilizados para combater esses ataques, mas isso leva a uma corrida armamentista digital com IA em ambos os lados e humanos à margem. Alguns podem dizer que isso nos torna obsoletos.

Fraude

A IA está sendo utilizada como uma ferramenta poderosa para fraudes. Imagens, vídeos e áudios “deepfake” gerados por IA podem recriar de forma convincente a imagem de qualquer indivíduo, desde que sejam fornecidos dados de treinamento suficientes. Se você tem postagens públicas em redes sociais, vídeos no YouTube ou até mesmo um cônjuge que gosta de postar fotos e vídeos seus no perfil dele, esses podem ser todos os dados que um criminoso determinado precisaria para se passar por você digitalmente. Assim, eles podem enganar pessoas que confiam em você, fazendo-as fornecer informações confidenciais ou enviar dinheiro.

A história de Brianna DeStefano é um dos exemplos mais proeminentes desse tipo de ataque fraudulento. Brianna, uma jovem de 15 anos do Arizona, estava viajando quando sua mãe, Jennifer, recebeu um telefonema. “Mãe, eu errei! Esses homens maus me pegaram”, explicou a voz da filha entre soluços. “Era obviamente o som da voz dela”, lembrou Jennifer. Então, uma voz masculina grave atendeu o telefone e ameaçou estuprar e matar Brianna, a menos que recebesse um resgate de um milhão de dólares. Felizmente, Jennifer conseguiu falar com a filha e verificar se ela estava bem, revelando o golpe. Os criminosos podem ter usado áudio das contas de Brianna nas redes sociais para treinar a IA. Não são necessários muitos dados para criar um clone de voz — um membro do Laboratório de IA da UC Berkeley disse à CNN: “Um clone razoavelmente bom pode ser criado com menos de um minuto de áudio”.

Chantagem

Já explicamos como deepfakes de IA podem ser usados ​​para se passar por você com o objetivo de vitimizar seus entes queridos. Você também deve considerar como eles podem ser usados ​​para vitimá-lo diretamente. Imagine uma série de fotos mostrando você entrando em um hotel com alguém que não seja seu cônjuge, ou um clipe de áudio da sua voz gritando insultos raciais, ou — pior de tudo — um vídeo seu praticando atos sexuais com uma criança. Se um cibercriminoso lhe enviar qualquer um desses materiais, você saberá que são falsos, mas sua família, amigos, empregador e autoridades policiais podem não saber.

Criminosos podem facilmente usar essas deepfakes humilhantes e incriminatórias para chantagear indivíduos, e isso não é um problema hipotético. Já está acontecendo. O FBI divulgou recentemente um alerta de que cibercriminosos estão usando IA para manipular fotos e vídeos (incluindo conteúdo envolvendo menores) e transformá-los em conteúdo sexual explícito, muitas vezes com o propósito de assédio ou “esquemas de extorsão”. O anúncio explicava:

Em abril de 2023, o FBI observou um aumento no número de vítimas de extorsão relatando o uso de imagens ou vídeos falsos criados a partir de conteúdo publicado em seus sites de mídia social ou postagens na web… Os agentes maliciosos geralmente exigiam: 1. Pagamento (por exemplo, dinheiro, vales-presente) com ameaças de compartilhar as imagens ou vídeos com familiares ou amigos de mídia social se os fundos não fossem recebidos; ou 2. A vítima enviasse imagens ou vídeos reais com temas sexuais.

Automação da guerra

A IA processa dados com uma velocidade muito maior do que qualquer analista humano. Esse fato, sem dúvida, mudará a forma como as guerras são travadas e os crimes são investigados. Em tempos de guerra, um ser humano pode ter que assistir a horas de filmagens de drones ou vasculhar centenas de imagens de satélite para obter uma compreensão detalhada da atividade inimiga em uma região. A IA pode realizar a mesma tarefa em segundos e, em seguida, propor um plano de contra-ataque com base em pontos de encontro inimigos estatisticamente prováveis. A IA também pode ser usada para decifrar comunicações seguras, estudar seu conteúdo em busca de informações significativas e gerar um relatório com as ações recomendadas.

O mais preocupante é o desenvolvimento de armas letais autônomas, como drones que podem caçar e matar combatentes automaticamente dentro de parâmetros definidos. Em entrevista à PBS, o oficial do Pentágono e ex-Ranger do Exército Paul Scharre explicou que as armas autônomas são atualmente um assunto de intenso debate entre as lideranças militares. “Cerca de 30 países disseram que gostariam de ver um tratado preventivo e juridicamente vinculativo que proibisse as armas autônomas. Mas, no momento, nenhuma das principais potências militares de desenvolvimento de robótica faz parte desse grupo.”

Policiamento “proativo”

Qualquer pessoa que tenha assistido ao filme Robocop pode atestar que a ética da incorporação de IA na aplicação da lei tem sido uma fonte de debate de longa data. Quase 40 anos após o lançamento do filme, “Droides de Aplicação” bípedes com canhões automáticos como armas ainda são ficção científica, mas podem não ser tão absurdos quanto se pensa. Em novembro de 2022, o Conselho de Supervisores do Departamento de Polícia de São Francisco votou por 8 a 3 a favor de permitir que a polícia use robôs equipados com armas letais.

Embora esses robôs fossem controlados por humanos, uma declaração do SFPD traçou um panorama mais amplo da posição do departamento sobre a integração de outras formas de tecnologia: “[se] existe tecnologia que possa ajudar a acabar com a violência e salvar vidas, precisamos permitir que a polícia use essas ferramentas para salvar vidas”. Uma semana depois, após protestos públicos, a decisão foi revertida. Um advogado de direitos civis disse à Mission Local: “Estamos vivendo em um futuro distópico, em que debatemos se a polícia pode usar robôs para executar cidadãos sem julgamento, júri ou juiz”.

Deixando de lado os robôs policiais, o precedente mais preocupante da IA ​​para a aplicação da lei está relacionado à disseminação de sistemas de reconhecimento facial. Após ser treinada com imagens como fotos de carteiras de motorista, fotos de identificação e fotos de perfis em redes sociais, a IA pode monitorar câmeras ativamente em tempo real para detectar e rastrear pessoas de interesse.

A renomada empresa de reconhecimento facial Clearview declarou em março de 2023 que já havia coletado 30 bilhões de imagens de perfis de mídia social de acesso público e que já havia sido usada mais de 1 milhão de vezes por agências policiais dos EUA para encontrar rostos correspondentes. E não está sendo usada apenas para encontrar assassinos em série ou criminosos sexuais — o Subchefe de Polícia de Miami disse à BBC que o departamento usa esse software para todos os tipos de crimes, de assassinatos a furtos em lojas.

A tecnologia de reconhecimento facial baseada em IA não só está se tornando mais comum, como também enfrenta pouca resistência por parte do público em geral. Um estudo de 2022 conduzido pela Pew Research descobriu que 46% dos americanos consideram que “o uso generalizado do reconhecimento facial pela polícia” é uma boa ideia, enquanto 27% consideram que é uma má ideia e outros 27% não têm certeza. Cerca de 60% dos entrevistados disseram que seria aceitável que essa tecnologia fosse usada pela polícia para identificar indivíduos em grandes eventos e protestos públicos; 31% disseram que é aceitável usar o reconhecimento facial em qualquer pessoa que ande na rua.

O chamado policiamento “preditivo” é outra área em que a IA tem sido implementada. A Universidade de Chicago revelou recentemente um novo algoritmo que “prevê crimes aprendendo padrões de tempo e localização geográfica a partir de dados públicos sobre crimes violentos e contra o patrimônio”, resultando na capacidade de “prever crimes futuros com uma semana de antecedência, com cerca de 90% de precisão”. O modelo obteve um nível de desempenho semelhante em oito cidades-teste: Chicago, Atlanta, Austin, Detroit, Los Angeles, Filadélfia, Portland e São Francisco.

Considerações finais

Como sempre, incentivamos você a se preparar para o futuro e a tomar medidas para proteger seus entes queridos. No entanto, não tenha medo irracional da tecnologia que o futuro trará. Relembre o desenvolvimento das fábricas, da rede elétrica e da internet — cada uma dessas mudanças globais de paradigma transformou seu estilo de vida de maneira positiva, mas também introduziu novos problemas. Esperamos que este artigo tenha ajudado você a se conscientizar sobre algumas das maneiras pelas quais você pode usar a IA para facilitar sua vida e a ficar atento às maneiras como ela pode ser usada contra você.

Acima de tudo, entenda que você sozinho não pode deter esse processo transformador. As engrenagens da mudança já estão em movimento. A IA quase certamente terá uma presença mais significativa em sua vida daqui a 20 anos, quer você queira ou não. Em vez de amaldiçoar a miopia do Vale do Silício, use seu tempo produtivamente para estudar como a IA está sendo implementada e como você pode se antecipar. Nos anos 90, lembramos de ler manchetes afirmando que toda essa coisa da “world wide web” era apenas uma moda passageira. Imagine se, em vez de descartar a tecnologia ou esperar que ela desapareça, esses pessimistas aprendessem a usá-la a seu favor. Resta saber se a IA será a maior criação da humanidade, sua ruína final, ou um pouco dos dois. Como disse um sábio… O futuro não está definido. Não há destino que não seja o que criamos para nós mesmos.

Texto traduzido e adaptado do site: Offgridweb.