Inteligência Artificial (IA) > Os LLMs são seguros?
Os LLMs são seguros? Riscos de segurança de IA explicados
Os assistentes de IA se tornaram ferramentas cotidianas para trabalho, pesquisa e comunicação. Mas os mesmos sistemas que os tornam úteis também os transformam em uma vulnerabilidade de segurança. Veja o que você deve saber sobre os riscos de segurança dos LLMs e da IA.
O que é um LLM e qual é a sua relação com IA e segurança?
A inteligência artificial abrange dezenas de tipos de software de aprendizado de máquina, desde o reconhecimento facial até a detecção de fraudes bancárias e jogos de tabuleiro. Modelos de linguagem de grande porte (LLMs) são um tipo específico de IA: eles são o motor por trás de cada grande assistente de IA do qual você já ouviu falar, incluindo ChatGPT, Microsoft Copilot, Google Gemini e o Lumo, da Proton.
Um LLM aprende processando volumes enormes de informações — livros, artigos, documentações, códigos e trabalhos acadêmicos — e encontrando padrões no funcionamento da linguagem. Com o tempo, ele se torna melhor em prever o que deve vir a seguir em qualquer texto escrito, o que o ativa para manter conversas inteiras, resumir documentos ou criar rascunhos de e-mails que parecem ter sido escritos por uma pessoa real.
Como os LLMs processam tantas informações, e como as pessoas compartilham cada vez mais detalhes pessoais e profissionais confidenciais com eles, a segurança dos LLMs é especialmente crucial para garantir que dados sigilosos não sejam roubados ou sofram vazamento.
Onde a IA agêntica se encaixa?
No passado, os LLMs se limitavam a respostas — você perguntava algo e a IA respondia. A IA agêntica vai além. Um agente de IA ainda usa um LLM para raciocinar e se comunicar, mas também pode tomar decisões: navegar na web, escrever e executar código, enviar mensagens, conectar-se a aplicativos externos e gerenciar seus arquivos. Em vez de apenas responder a uma única pergunta, ela consegue realizar uma tarefa de várias etapas com pouca supervisão humana.
Essa capacidade extra traz consigo um risco maior. Quando uma IA consegue agir de forma independente, as consequências de ela ser enganada ou apresentar falhas são muito mais graves. A segurança da IA agêntica é uma das preocupações que mais crescem nesse campo justamente porque esses sistemas estão sendo cada vez mais integrados às ferramentas de trabalho, muitas vezes com mais acesso do que realmente precisam.
Segurança de LLM e os perigos potenciais da IA
Os riscos de segurança de IA e LLMs são tão preocupantes porque estão integrados à própria arquitetura de como essas ferramentas são projetadas e implantadas. Quando você faz uma pergunta de saúde pessoal a um assistente de IA, compartilha uma estratégia de negócios ou discute uma situação jurídica, essas informações geralmente vão parar em servidores que você não controla e podem estar sujeitas a leis ou padrões de conduta dos quais você talvez nem tenha conhecimento. A segurança dos LLMs não é algo que apenas as equipes de TI precisam considerar; é um problema prático para qualquer pessoa que use IA, seja para fins privados ou profissionais.
Os maiores riscos de segurança de LLMs e IA
Os LLMs são integrados a mais ferramentas todos os dias — mas eles ainda trazem vários riscos de segurança que não são imediatamente óbvios.
A maioria das plataformas de IA armazena seus comandos, respostas e dados de interação por padrão. Essas informações podem ser lidas por funcionários da empresa, usadas no treinamento de futuros modelos, vendidas a terceiros ou até mesmo entregues às autoridades. Depois que suas conversas chegam aos servidores de outra empresa, você quase não tem controle sobre como esses dados são armazenados, usados ou compartilhados.
A maioria dos produtos de IA é composta por componentes criados por diferentes organizações e empresas, incluindo modelos básicos, plug-ins, APIs e pipelines de dados. Se algo nessa cadeia de suprimentos for comprometido, todos os usuários daquele produto serão afetados, geralmente sem qualquer indicação óbvia de que há algo errado.
Os LLMs podem expor dados que nunca deveriam compartilhar. Isso pode incluir informações obtidas de dados de treinamento, sessões de outros usuários ou suas próprias conversas anteriores às quais a IA ainda tem acesso. Em ambientes corporativos, onde várias pessoas compartilham a mesma ferramenta de IA e dados confidenciais passam pelo mesmo sistema, esses vazamentos podem causar sérios prejuízos.
Como as IAs agênticas têm a capacidade de enviar e-mails, executar códigos ou acessar seus arquivos, os riscos de que sejam manipuladas aumentam consideravelmente. Um agente de IA com permissões em excesso pode realizar ações em vários sistemas conectados, muitas vezes antes que alguém perceba que há algo errado. Quanto mais você deixa uma IA agir em seu nome, mais importante se torna controlar rigidamente o acesso dela.
A injeção de comandos (prompt injection) é um dos riscos de segurança de IA mais comuns. Ela funciona ocultando instruções maliciosas dentro do conteúdo enviado para a IA, como em um PDF ou página web, para manipular agentes de IA que agem de forma autônoma. Essas instruções alteram silenciosamente o comportamento do agente de IA, podendo fazer com que ele vaze dados confidenciais, aja contra os seus interesses ou gere resultados enganosos — tudo isso enquanto tudo parece normal na superfície.
Como o Lumo aborda a segurança de IA de forma diferente
A maioria dos assistentes de IA é projetada para dar à plataforma a máxima visão sobre como você os utiliza. O Lumo foi projetado para fazer o oposto, dando a você maior controle e tranquilidade sobre como o seu nome de usuário é tratado.
Sem registros, nunca
O servidor LLM do Lumo processa sua mensagem e a descarta no momento em que uma resposta é gerada. Não há registro do que você perguntou, do que foi respondido ou de quando. Nenhum chat em texto simples é retido no servidor, o que significa que não há nada para ser violado, intimado ou usado indevidamente.
Suas mensagens são criptografadas antes de saírem do seu dispositivo
O Lumo usa criptografia assimétrica bidirecional — chamada criptografia de usuário para Lumo (U2L) — para proteger suas mensagens em trânsito. Sua mensagem real só é legível pelo próprio servidor LLM, e apenas pelo tempo necessário para produzir uma resposta.
O histórico de conversas é bloqueado com criptografia de acesso zero
Após a geração de uma resposta, sua conversa é armazenada usando criptografia de acesso zero — protegida por uma chave que apenas você possui. A Proton nunca tem acesso a ela. Mesmo se os servidores da Proton fossem totalmente comprometidos, seu histórico de conversas permaneceria ilegível.
Modelos e códigos de código aberto permitem que especialistas verifiquem a segurança do Lumo
Diferente de ferramentas de IA de código fechado como ChatGPT, Copilot e Gemini, o Lumo roda em modelos e código de código aberto, de modo que qualquer pessoa pode inspecionar nossa arquitetura em busca de vulnerabilidades e verificar se ele faz exatamente o que alegamos.
Sem anúncios ou compartilhamento de dados
A maioria dos assistentes de IA é baseada em modelos de negócios que dependem da coleta e retenção dos seus dados. O Lumo é diferente. A receita da Proton vem de assinaturas, não da monetização de dados, portanto não há incentivo para registrar suas conversas, compartilhá-las com terceiros ou usá-las para exibir anúncios para você.
Hospedado na Europa, não sujeito às leis de vigilância dos EUA
Ferramentas de IA criadas por empresas dos EUA podem ser obrigadas a divulgar seus dados sob leis como o CLOUD Act. O Lumo roda em servidores controlados pela Proton na Europa, sob algumas das proteções de privacidade mais fortes do mundo. Suas conversas estão fora do alcance de solicitações de acesso de governos estrangeiros.
Participe de um ecossistema criptografado que mantém você seguro em qualquer lugar
O Lumo faz parte de um ecossistema que prioriza a privacidade e protege seus dados com uma poderosa criptografia. Ninguém pode ver seus dados, exceto você e as pessoas com quem você escolhe compartilhá-los — nem mesmo nós.
Crie uma conta gratuita do Lumo e você também desbloqueará o acesso à nossa VPN(nova janela), e-mail, calendário, armazenamento em nuvem, editor de documentos, editor de planilhas, gerenciador de senhas, videoconferência e muito mais.
O que as pessoas dizem sobre o Lumo
Esse é o único lugar onde alguém verá suas conversas.
@recant731
no X
Acabei de usar o Lumo para ajudar a planejar uma viagem de carro, com rotas detalhadas e orçamentos para hospedagem e combustível do meu carro. @ProtonPrivacy já tinha me deixado empolgado, e agora @asklumo também.
@markruffalo
via comentário no Instagram
Existem outros aplicativos de chat que você pode usar que são tão bons quanto, mais baratos ou mais privados, e que não financiam o mal no mundo. O Lumo do ProtonMail vem à mente
@banasnap.bsky.social
no Bluesky
Premissa promissora: uma IA focada em privacidade é exatamente o que faltava no cenário atual. Com a maioria dos serviços dominados por empresas dos EUA e da China, ter uma opção baseada na Europa, de uma equipe que já entende bem de privacidade on-line, atende a uma necessidade crucial do setor. Estou ansioso para experimentar o Lumo.
tintreack
no Reddit
Isso é muito incrível, e o mascote é uma graça. Eu adorei sua identidade visual. Além disso, como um usuário visionário que precisa usar o ChatGPT no fluxo de trabalho, obrigado. Finalmente posso me livrar dele. Fiz uns testes, é muito bom! Bom trabalho, pessoal.
Mude para um assistente de IA verdadeiramente seguro
As ferramentas de IA desenvolvidas pelas maiores plataformas de tecnologia foram projetadas para ser úteis, mas muitas vezes ao custo da sua segurança e privacidade. O Lumo oferece um LLM e assistente de IA capaz e criptografado, sem comprometer a sua segurança.
Perguntas frequentes sobre LLMs e segurança de IA
- Quais são os maiores riscos de segurança de IA para usuários comuns?
- O Lumo é seguro para trabalhos confidenciais ou sensíveis?
- Quais são os principais perigos da IA para as empresas?
- A quais idiomas o Lumo oferece suporte?
