Inteligência Artificial Generativa (GenAI)

Índice

O que é inteligência artificial generativa (GenAI)?
Como é que a GenAI é utilizada nos negócios?
Como é que a GenAI é utilizada em infraestruturas críticas?
Quais são os riscos de cibersegurança ao usar o GenAI?
Saiba mais sobre GenAI

O que é inteligência artificial generativa (GenAI)?

Aplicações de IA generativa como o ChatGPT e o DALL-E são concebidas para imitar a criatividade humana, gerando texto, imagens, vídeos e outros tipos de conteúdo mediante solicitação.

As tecnologias GenAI e suas aplicações variam entre indústrias e casos de uso. Muitas pessoas estão familiarizadas com modelos de linguagem de grande escala (LLMs) como o GPT-4 e o Claude, mas estes representam apenas um tipo de GenAI. Outros modelos e ferramentas são usados para criar conteúdo em diferentes formas:

Tecnologia GenAI	Aplicação	Características Únicas
DALL-E (OpenAI)	Geração de Imagens	Capaz de gerar imagens a partir de descrições textuais, conhecido pela sua criatividade na produção de imagens complexas e detalhadas com base em instruções específicas.
Synthesia	Geração de Vídeo	Geração de vídeo baseada em IA feita para sistemas de gestão de aprendizagem e comunicações empresariais.
AlphaFold (Google DeepMind)	Previsão da Estrutura de Proteínas	Usado para prever estruturas de proteínas com notável precisão, representando um avanço significativo na investigação biológica e na descoberta de medicamentos.
Redes Adversárias Generativas (GANs)	Redes neurais competitivas, geração de dados sintéticos	Utilizado em várias aplicações quando os dados reais são limitados. As soluções de cibersegurança e as aplicações de negócios preditivas estão entre aquelas que beneficiam do treino de GAN.

GenAI difere de outras formas de inteligência artificial (IA) porque aprende relações, padrões e outras características dentro de um conjunto de dados. Estes conjuntos de dados variam com base na tecnologia e aplicação. No caso dos LLMs, os conjuntos de dados contêm enormes quantidades de conteúdo gerado por humanos extraído de livros, artigos, páginas web e outros formatos de texto. Bilhões de parâmetros são aplicados a estes conjuntos de dados durante o processo de aprendizagem. Estes parâmetros controlam como os modelos aprendem com os dados e que tipos de respostas os modelos podem fornecer. Idealmente, os LLMs irão produzir conteúdo novo e original quando solicitado, mas a resposta será baseada nos parâmetros utilizados no treino. Compare o ChatGPT e o Claude para um exemplo de como os parâmetros influenciam o output do LLM.

Os LLMs são um subconjunto principal da GenAI, que por sua vez é um subconjunto da inteligência artificial:

O Machine Learning (ML) permite que as máquinas aprendam a partir dos dados para melhorar o seu desempenho ao longo do tempo. Inclui subcampos como redes neuronais, aprendizagem profunda e aprendizagem por reforço.
Deep Learning é uma forma de ML que utiliza redes neuronais para analisar dados complexos e identificar padrões de maneiras que estão além das capacidades humanas.
As capacidades de Processamento de Linguagem Natural (NLP) permitem que as máquinas compreendam e gerem linguagem humana. Isto refere-se apenas à linguagem, não a palavras faladas.
As tecnologias de reconhecimento de fala permitem que os computadores reconheçam e traduzam a linguagem falada em texto. Este é um conjunto de tecnologias separado do PLN.
A IA generativa cria conteúdo com base no que aprendeu anteriormente. Aplicações como o ChatGPT e o Microsoft Co-pilot são tecnologias de IA Generativa.

Mais subconjuntos de GenAI e inteligência artificial serão criados à medida que os casos de uso continuem a crescer. As tecnologias de IA estão a amadurecer e empresas de todos os setores estão a adotar soluções de IA e a criar as suas próprias aplicações personalizadas. GenAI e ML serão motores significativos neste crescimento.

Como é que a GenAI é utilizada nos negócios?

Todos os setores da economia utilizam de alguma forma a IA generativa. As utilizações mais conhecidas são os chatbots que fornecem suporte técnico e funções de atendimento ao cliente antes de encaminhar um pedido a um representante humano. Este tipo de GenAI é voltado para o público e de fácil acesso ao público. Outras aplicações podem operar nos bastidores, despercebidas pelos clientes ou outras partes externas.

Setor	Utilização de IA generativa
Finanças	Análise preditiva para tendências de mercado e avaliação de risco de crédito Deteção de fraude e simulações de risco sofisticadas Otimização de portfólio e geração de relatórios financeiros
Retalho e Comércio Eletrónico	Recomendações de produtos personalizadas Otimização da gestão de inventário Aumentar o envolvimento do cliente através de estratégias de marketing personalizadas
Fabrico	Manutenção preditiva e design de produtos Otimização da cadeia de abastecimento e deteção de defeitos Otimização do consumo de energia
Educação	Experiências de aprendizagem personalizadas que se adaptam às necessidades dos alunos Regulamentação do uso de GAI nas escolas para proteger a privacidade dos dados

Como é que a GenAI é utilizada em infraestruturas críticas?

A GenAI também está a ser amplamente adotada em infraestruturas críticas. Os dados sintéticos permitem que as equipas de gestão de infraestruturas planeiem para desastres naturais, ciberataques, falhas de sistema e outros cenários. Isto ajuda as equipas a melhorar a resposta e a reduzir o tempo de recuperação.

Setor	Aplicações de IA Generativa
Energia (Eletricidade, Gás, Petróleo)	Otimização da distribuição de energia, previsão de procura, manutenção preditiva
Água e Águas Residuais	Aprimoramento da análise da qualidade da água, manutenção preditiva para estações de tratamento, otimização da distribuição
Transporte (Rodoviário, Ferroviário, Aéreo, Marítimo)	Otimização de tráfego, manutenção preditiva, análise de risco de acidentes
Cuidados de Saúde e Saúde Pública	Previsão de surtos de doenças, otimização da alocação de recursos, personalização do tratamento de pacientes
Serviços de Emergência	Previsão e gestão de situações de emergência, otimização de recursos
Alimentos e Agricultura	Previsão de rendimento agrícola, gestão de recursos, controlo de pragas e doenças
Setor Químico	Monitorização de processos, previsão de falhas de equipamento, garantia de conformidade de segurança
Reatores Nucleares, Materiais e Resíduos	Agendamento de manutenção, monitorização do nível de radiação, melhoria do protocolo de segurança
Barragens	Análise da integridade estrutural, previsão de risco de inundações, planeamento de manutenção

Quais são os riscos de cibersegurança ao usar o GenAI?

O uso adequado da GenAI pode melhorar a eficiência dos negócios, o atendimento ao cliente e até a qualidade de vida através de aplicações de saúde e relacionadas à saúde. Muitos argumentarão que os benefícios da GenAI superam os riscos, mas esses riscos devem ser considerados e mitigados tanto quanto possível.

Os riscos de cibersegurança associados ao uso de Inteligência Artificial Generativa (GenAI) são multifacetados e resultam tanto das características inerentes da tecnologia como das formas em que é implementada e utilizada. Estes riscos podem, de forma geral, ser categorizados em várias áreas-chave:

Privacidade e proteção de dados: Os sistemas de GenAI requerem acesso a grandes quantidades de dados que a maioria dos utilizadores não pode controlar. Alguns destes dados podem incluir informações sensíveis ou pessoais que podem ser partilhadas publicamente em resposta a um pedido.
Entrada e saída: Os agentes de ameaça têm utilizado o processo de pedido/prompt dos LLMs de GenAI para injetar dados maliciosos ou explorar vulnerabilidades no sistema. Isto pode causar uma violação de dados se o sistema for projetado para um uso controlado, como saúde ou finanças. O GenAI também pode responder a pedidos com saídas que são inapropriadas e prejudiciais. Estas saídas podem ser influenciadas por treino, parâmetros e ação maliciosa por parte dos agentes de ameaça. A maioria dos utilizadores não saberá o que causou a saída.
Riscos de conformidade e legais: A GenAI pode complicar a conformidade com regulamentos de proteção de dados e privacidade. Por exemplo, o Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia impõe requisitos rigorosos sobre o processamento de dados pessoais, e as práticas de manuseio de dados da GenAI podem potencialmente entrar em conflito com estes regulamentos.
Automatizado Engenharia Social ataques: GenAI é projetado para imitar estilos de comunicação humana, tornando-o uma ferramenta perfeita para campanhas sofisticadas de phishing e engenharia social. Agentes maliciosos poderiam usar GenAI para automatizar a criação de emails ou mensagens de phishing altamente convincentes, tornando mais difícil para indivíduos distinguirem entre comunicações legítimas e fraudulentas. Vários LLMs já foram roubados e reutilizados para uso malicioso:
- FraudGPT: Uma ferramenta GenAI maliciosa baseada em subscrição que cria conteúdo para ciberataques como phishing e impersonation. opera de forma semelhante ao ChatGPT da OpenAI, mas sem os controlos e limitações incorporados que impedem o uso indevido.
- WormGPT: Um sistema de código aberto projetado para ajudar criminosos a escrever malware e código malicioso, criar conteúdo de phishing e encontrar vulnerabilidades em sistemas.
- PoisonGPT: Esta ferramenta espalha desinformação online ao inserir detalhes falsos em narrativas políticas e históricas, criar notícias falsas e manipular a opinião pública.
- XXXGPT: Esta aplicação foi desenvolvida para ajudar criminosos a implementar botnets, malware, keyloggers, infostealers, trojans de acesso remoto e cryptostealers.

A IA generativa também cria novos riscos quando é implementada com uma interface de programação de aplicações (API). As APIs permitem a integração de tecnologias separadas e são componentes necessários em muitos dos casos de uso descritos acima. As APIs podem criar um risco significativo em toda a organização. Estas devem ser geridas e securizadas como qualquer outro componente na infraestrutura digital.

Saiba mais sobre GenAI

Leitura complementar

Como a Barracuda pode ajudar

Barracuda oferece uma plataforma abrangente de cibersegurança para proteger as organizações de todos os principais vetores de ataque presentes nas ameaças complexas de hoje. A Barracuda oferece soluções de melhor valor, ricas em funcionalidades e completas, que protegem contra uma ampla gama de vetores de ameaça, e é apoiada por um serviço ao cliente completo e premiado. Trabalhando com um único fornecedor, beneficia de uma complexidade reduzida, maior eficácia e menor custo total de propriedade. Centenas de milhares de clientes em todo o mundo confiam na Barracuda para proteger o seu email, redes, aplicações e dados.