conteúdo

Campanha: Use a IA de forma responsável

Confira uma reflexão sobre o uso da Inteligência Artificial Generativa, seus princípios, riscos e dicas para utilizá-la de forma segura

Inteligência Artificial Generativa
Imagem representativa da Inteligência Artificial Generativa

A Inteligência Artificial Generativa é um ramo da inteligência artificial projetado para criar conteúdos, como textos, áudios, imagens, vídeos e até códigos de software. Essa tecnologia se baseia em modelos computacionais avançados, que aprendem padrões a partir de grandes volumes de dados.

As ferramentas generativas atualmente mais conhecidas são os LLMs - (Large Language Model, ou Modelos de linguagem de grande escala) que tem como função central gerar textos de maneira natural, semelhante à humana.

Os LLMs, como ChatGPT, Copilot, Llama e Gemini, funcionam analisando enormes quantidades de textos para aprender padrões da linguagem humana. Assim, quando recebem uma pergunta ou comando, eles calculam probabilidades para prever quais palavras têm maior chance de aparecer em sequência, gerando respostas que procuram imitar, da forma mais natural possível, a maneira como as pessoas escrevem e se comunicam.

Princípios Fundamentais para o Uso da IAG

Legalidade: o uso da IAG deve estar em conformidade com as leis vigentes, incluindo a Lei Geral de Proteção de Dados (LGPD) e demais normativos, garantindo que os direitos dos cidadãos sejam respeitados. 

⚠️ É vedado o upload de dados pessoais sensíveis de alunos ou servidores em ferramentas de IAG públicas para a geração de relatórios ou resumos.

Impessoalidade: decisões assistidas por IAG devem ser imparciais, baseadas em critérios objetivos e livres de viés ou preconceito. 

⚠️ A IAG não deve ser utilizada como única ferramenta de criação ou apoio às atividades desenvolvidas, sempre deve ser feita a conferência das informações, garantindo que algoritmos não reproduzam preconceitos de gênero, raça ou origem.

Moralidade (Ética): essencial no uso de IAG, assegurando transparência, justiça e respeito aos direitos humanos e às garantias democráticas. 

⚠️O uso de IAG para a criação de imagens ou textos em projetos deve respeitar os direitos autorais e a integridade da imagem institucional, evitando conteúdos enganosos.

Publicidade: os processos envolvendo IAG devem ser transparentes, permitindo auditoria e contestação quando necessário. 

⚠️ ️ Quando utilizar a IAG na elaboração de documentos, incluir nota “Este documento contou com auxílio de Inteligência Artificial Generativa [nome da IAG] para sua estruturação”.

Eficiência: ferramentas de IAG podem ser usadas para automatizar tarefas repetitivas, liberando recursos para atividades mais estratégicas, desde que sempre com revisão humana. 

⚠️O uso de IAG para transcrever reuniões administrativas ou traduzir artigos científicos é incentivado, desde que o conteúdo final seja revisado e validado tecnicamente por um humano.

Riscos associados ao uso de IA

Antes de utilizar ferramentas de IAG em processos de trabalho, é necessário analisar os benefícios e riscos associados a cada caso de uso.  

Alucinações na IA Generativa:  IAG são treinados em grandes volumes de dados e podem produzir respostas “criativas” baseadas em padrões e informações aprendidas durante um longo processo de treinamento. Entretanto, essa criatividade sintética pode desencadear alucinações – situações em que um modelo de inteligência artificial gera informações inexatas, irrelevantes ou totalmente fabricadas, mesmo que pareçam confiáveis e coerentes. Deve-se, portanto, efetuar a dupla verificação (double-check obrigatório) para garantir a veracidade das informações. O servidor ou aluno é o único responsável pela integridade técnica e ética do resultado final. A “alucinação” da máquina não justifica erros em pareceres, notas ou trabalhos acadêmicos. A conferência em fontes oficiais é obrigatória. 

📢 Ao solicitar que a IAG resuma um acórdão, verifique se os nomes das partes, números de páginas e o sentido da decisão não foram alterados ou inventados pela ferramenta.

Implicações Legais: IAG devem ser acompanhadas de uma avaliação rigorosa sobre a origem e a natureza dos dados gerados, garantindo que estejam em conformidade com a legislação e as boas práticas institucionais 

📢Se a IAG citar uma Instrução Normativa ou lei, valide o texto diretamente no Portal da Legislação (Planalto) para garantir que a norma ainda está vigente e não foi revogada. 

Vazamento de Dados, Ataques e Acessos Não Autorizados: O uso de modelos de inteligência artificial generativa pode expor organizações e usuários a uma série de riscos relacionados à segurança da informação, caso não sejam adotadas práticas robustas de mitigação. 

📢 Nunca forneça detalhes específicos de vulnerabilidades de rede ou senhas do sistema institucional em prompts de IAG, pois essas informações podem ser armazenadas e usadas para treinar modelos futuros.

Importância da Anonimização de Dados: A anonimização de dados é uma prática essencial para garantir que as informações pessoais e sensíveis não sejam vinculadas a indivíduos ou entidades específicas, reduzindo o risco de exposição acidental.

📢Sempre substitua nomes por "INTERESSADO A", "FULANO B" e remova números de CPF ou endereços antes de inserir o texto na IAG.

Viés na IAG: Apresentado como uma questão central devido à dependência dos modelos de IAG de grandes volumes de dados de treinamento. Esses dados podem conter preconceitos implícitos, desigualdades ou representações inadequadas, que acabam sendo refletidos nos resultados gerados. 

📢 Ao usar a IAG para criar uma imagem de “reunião de gestão universitária”, verifique se o resultado não reforça estereótipos de gênero ou raça, solicitando ajustes para garantir a diversidade e a representatividade institucional.

Boas práticas

  • O uso de IAG deve passar por revisão institucional, considerando os princípios éticos, os riscos e as melhores práticas definidos internamente pelo órgão. 

  • Decisões automatizadas pela IAG não devem ser adotadas sem revisão humana, principalmente quando usada para informar o público externo ou quando envolver decisões estratégicas. 

  • O uso de IAG deve estar alinhado com o código de conduta institucional e as políticas de não discriminação, garantindo que o conteúdo seja apropriado e não discriminatório. 

  • Para proteger servidores, cidadãos e a instituição, não usar o conteúdo criado pela IA que seja inapropriado, discriminatório, incorreto ou prejudicial. 

  • A responsabilidade do servidor sobre qualquer documento produzido, com ou sem IAG, permanece inalterada. O uso inadequado de IAG não exime o servidor de revisar e assumir a autoria plena do resultado.

  • Recomenda-se não usar endereços de e-mail, credenciais e números de telefone do órgão ou entidade para criar contas em plataformas externas de IAG, prevenindo a ligação entre uso pessoal e trabalho institucional. 

  • Para proteger informações sensíveis e confidenciais, incluindo dados protegidos por lei e propriedade intelectual, é indicado que servidores e prestadores de serviços utilizem apenas soluções de IAG aprovadas pelo órgão.

Conformidade

O uso de ferramentas de Inteligência Artificial deve respeitar a legislação vigente e os normativos institucionais, especialmente, a Lei Geral de Proteção de Dados (LGPD).

Resumindo

O que é permitido: tarefas repetitivas, correções gramaticais, tradução de termos técnicos gerais.

O que exige cuidado (revisão humana): redação de pareceres, resumos de depoimentos, análise de evidências/provas, etc.

O que é proibido: dados sensíveis de terceiros, decisões automáticas sem supervisão, uso de contas institucionais em sites não homologados.

 

Referência

Este conteúdo foi extraído das orientações da cartilha: Cartilha IA Generativa — Governo Digital 

Acesse também: 

Guia prático de prompt e pesquisa com IA para servidores públicos — Governo Digital 

IA Generativa no Serviço Público


Elaboração:
Ana Paula Gonçalves de Oliveira (DTIC)
Jorge Rafael Hara Moreira (CIRC)
Regiane Giotti Silva (Encarregada de Proteção de Dados Pessoais)