PORTARIA Nº 136, DE 24 DE MAIO DE 2024.

O PRESIDENTE DO TRIBUNAL REGIONAL ELEITORAL DO ESTADO DE SÃO PAULO, no uso das suas atribuições legais e regimentais,

CONSIDERANDO a Resolução nº 370/2021 do Conselho Nacional de Justiça, que estabelece a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD);

CONSIDERANDO a Resolução nº 332/2020 do Conselho Nacional de Justiça, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências;

CONSIDERANDO a Portaria nº 253/2020 do Conselho Nacional de Justiça, que institui os critérios e diretrizes técnicas para o processo de desenvolvimento de módulos e serviços na Plataforma Digital do Poder Judiciário Brasileiro (PDPJ-Br);

CONSIDERANDO a Resolução TRE-SP nº 580/2022, que dispõe sobre a Política de Segurança da Informação (PSI) no âmbito do Tribunal Regional Eleitoral do Estado de São Paulo;

CONSIDERANDO o disposto na Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais-LGPD);

CONSIDERANDO a Resolução TRE-SP nº 627/2023, que dispõe sobre a Política de Privacidade e Proteção de Dados Pessoais do Tribunal Regional Eleitoral do Estado de São Paulo;

CONSIDERANDO que a Inteligência Artificial é uma das tecnologias mais promissoras do momento, com significativo potencial para otimizar e aprimorar processos, facilitar a análise de dados e proporcionar maior eficiência nas operações;

CONSIDERANDO as inúmeras iniciativas envolvendo o uso e desenvolvimento de modelos ou soluções baseadas em Inteligência Artificial no âmbito da Justiça Eleitoral de São Paulo e a necessidade de padronização e regulamentação sobre o tema,

RESOLVE:

CAPÍTULO I

DAS DISPOSIÇÕES GERAIS

Art. 1º  Esta portaria estabelece normas gerais para o desenvolvimento, implementação e uso responsável de sistemas de Inteligência Artificial (IA), com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.

Parágrafo único.  Todos os modelos ou soluções de IA desenvolvidos ou adotados no âmbito do TRE-SP deverão seguir o disposto nesta portaria.

Art. 2º  Para fins desta portaria, considera-se:

I - Algoritmo: sequência finita de instruções executadas por um programa de computador, com o objetivo de processar informações para um fim específico; (inciso I, Art. 3º, Res. CNJ nº 332/2020)

II - Dado sintético: informação artificialmente gerada por algoritmos ou simulações de computador que refletem estatisticamente ou matematicamente dados reais;

III - Modelo ou Solução de IA: conjunto de dados e algoritmos computacionais concebidos a partir de modelos matemáticos, cujo objetivo é oferecer resultados inteligentes, associados ou comparáveis a determinados aspectos do pensamento, do saber ou da atividade humana; (inciso II, Art. 3º, Res. CNJ nº 332/2020)

IV - Sinapses: solução computacional, mantida pelo Conselho Nacional de Justiça, com o objetivo de armazenar, testar, treinar, distribuir e auditar modelos de IA; (inciso III, Art. 3º, Res. CNJ nº 332 /2020)

V - Usuária ou usuário externo: pessoa que, mesmo sem integrar o Poder Judiciário, utiliza ou mantém qualquer espécie de contato com o sistema de inteligência computacional, notadamente jurisdicionados(as), juristas, procuradores(as), membros(as) do Ministério Público, especialistas, assistentes técnicos, entre outros; (inciso VI, Art. 3º, Res. CNJ nº 332/2020)

VI - Usuária ou usuário interno: membro(a), servidor(a) ou colaborador(a) do TRE-SP que desenvolva ou utilize o sistema inteligente. (inciso V, Art. 3º, Res. CNJ nº 332/2020)

CAPÍTULO II

DO GRUPO DE AVALIAÇÃO DE INTELIGÊNCIA ARTIFICIAL – GAIA

Art. 3º  Deverá ser constituído o Grupo de Avaliação de Inteligência Artificial (GAIA), composto por, no mínimo, uma servidora ou servidor titular e suplente, com indicação pelas seguintes dependências:

I - Secretaria da Presidência;

II - Secretaria da Corregedoria;

III - Assessoria de Estatística e Ciência de Dados;

IV - Secretaria de Gestão da Informação e Documental;

V - Secretaria de Gestão de Pessoas;

VI - Secretaria de Planejamento Estratégico e de Eleições;

VII - Secretaria Judiciária;

VIII - Secretaria de Tecnologia da Informação.

Parágrafo único.  A coordenação dos trabalhos será realizada pela servidora ou servidor indicado pela Secretaria de Tecnologia da Informação.

Art. 4º  São atribuições do GAIA:

I - Inventariar e manter atualizadas as informações sobre os modelos e soluções de IA;

II - Receber e avaliar a viabilidade das propostas de adoção, criação e desenvolvimento de novos modelos ou soluções de IA;

III - Consultar a plataforma Sinapses e/ou outros órgãos para verificar se existem modelos ou soluções semelhantes;

IV - Informar as áreas demandantes acerca da aprovação ou reprovação das propostas de criação e desenvolvimento de novos modelos ou soluções de IA;

V - Avaliar a prestação de contas dos modelos ou soluções de IA desenvolvidos, nos termos do artigo 25 da Resolução CNJ nº 332/2020;

VI - Submeter à alta administração a necessidade de recursos para melhoria das condições para adoção, treino, criação e desenvolvimento de modelos ou soluções de IA;

VII - Submeter à alta administração propostas de criação e desenvolvimento de novos modelos ou soluções de IA considerados viáveis;

VIII - Definir requisitos, normativos, metodologia, ferramentas e ambiente adequado e seguro para o desenvolvimento, testes e implementações de modelos ou soluções de IA, conforme disposto no CAPÍTULO IV desta portaria.

Parágrafo único.  A análise de viabilidade das propostas de adoção, criação e desenvolvimento de novos modelos ou soluções de IA deverá considerar aspectos de segurança da informação e proteção de dados, inclusive os pessoais e pessoais sensíveis.

Art. 5º  O GAIA se reunirá ordinariamente, uma vez a cada trimestre, e extraordinariamente, sempre que necessário.

CAPÍTULO III

PRINCÍPIOS E DIRETRIZES

Art. 6º  O desenvolvimento e a implantação de modelos ou soluções de IA deverão observar:

I - O respeito aos Direitos Fundamentais (Capítulo II, Res. CNJ nº 332/2020);

II - A não discriminação, assegurando a realização de estudos, pesquisas, ensino e treinamentos de IA livre de preconceitos (Capítulo III e Art. 21 da Res. CNJ nº 332/2020);

III - A publicidade e transparência (Capítulo IV, Res. CNJ nº 332/2020);

IV - A governança e qualidade, devendo o modelo de IA ser depositado no Sinapses (Capítulo V, Res. CNJ nº 332/2020);

V - A segurança da informação (Capítulo VI, Res. CNJ nº 332/2020) e o tratamento e a proteção de dados (LGPD);

VI - A autonomia das usuárias e usuários internos (Art. 17, Res. CNJ nº 332/2020);

VII - A ciência das usuárias e usuários externos quanto à utilização de sistema de inteligência computacional nos serviços que lhes forem prestados (Art. 18, Res. CNJ nº 332/2020);

VIII - As regras, os princípios e os direitos estabelecidos pela LGPD e seus regulamentos.

§ 1º  A alta administração deverá instituir mecanismos e disponibilizar recursos visando incentivar a concepção de iniciativas de IA.

§ 2º  Os projetos de modelos ou soluções de IA desenvolvidos para aplicação à PDPJ-Br deverão obrigatoriamente seguir o disposto na Portaria CNJ nº 253/2020.

§ 3º  Os modelos ou soluções de TIC a serem contratados ou implantados que contiverem IA embutida deverão ser submetidos ao GAIA para análise de viabilidade, considerando, também, aspectos de segurança da informação e proteção de dados, inclusive os pessoais e pessoais sensíveis.

§ 4º  As informações produzidas por usuárias e usuários, no exercício de suas atividades e funções, são patrimônio intelectual da Justiça Eleitoral do Estado de São Paulo, não cabendo a suas criadoras e criadores qualquer forma de direito autoral, conforme o artigo 5º da Resolução TRE-SP nº 580/2022.

§ 5º  Sempre que possível, deverá ser priorizada a utilização de dados sintéticos ou anonimizados durante os processos de treinamento de IA, todavia, quando o desenvolvimento e treinamento de modelos de IA exigirem a utilização de dados reais, as amostras devem ser prioritariamente representativas, observadas as cautelas necessárias quanto aos dados pessoais e pessoais sensíveis.

§ 6º  Sempre que a utilização da ferramenta possa afetar direta ou indiretamente a segurança dos titulares de dados pessoais, os(as) gestores(as) responsáveis pelos projetos, modelos ou soluções de IA deverão submeter suas propostas para apreciação da autoridade competente, ficando a critério do controlador, após ouvido o(a) Encarregado(a) pelo tratamento de dados pessoais do TRE-SP, a necessidade de elaboração do Relatório de Impacto (RIPD) para constatação de riscos às liberdades civis e aos direitos fundamentais.

§ 7º  Ficam garantidos aos titulares, nos termos do artigo 20 da LGPD, os direitos de contestação e revisão quanto às decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses.

CAPÍTULO IV

DO AMBIENTE, DO DESENVOLVIMENTO E DA IMPLANTAÇÃO DE MODELOS OU SOLUÇÕES DE IA

Art. 7º  O TRE-SP, por meio da STI, deverá disponibilizar ou contratar ambiente adequado e seguro para o desenvolvimento, testes e implementações de modelos ou soluções de IA, conforme recursos disponíveis.

§ 1º  A STI monitorará e manterá a integridade do ambiente de IA realizando atualizações de segurança, gerenciamento de recursos e implementando políticas de retenção de dados, conforme a legislação aplicável.

§ 2º  O acesso ao ambiente de IA será concedido às usuárias e usuários internos mediante solicitação e após aprovação da STI.

§ 3º  É vedada a criação de ambientes destinados ao desenvolvimento, testes ou qualquer outra finalidade relacionada à IA fora do âmbito do ambiente adequado e seguro, conforme disposto no caput.

Art. 8º  Propostas de novos modelos ou soluções de IA a serem desenvolvidos ou adotados no âmbito do TRE-SP deverão obrigatoriamente ser submetidos ao GAIA, para avaliação de viabilidade.

Art. 9º  Os novos projetos de modelos ou soluções de IA considerados viáveis pelo GAIA, nos termos do parágrafo anterior, deverão:

I - Indicar as gestoras ou gestores negociais e de tecnologia;

II - Adotar os princípios e diretrizes desta portaria;

III - Ser depositados na plataforma Sinapses.

Art. 10.  Em caso de desenvolvimento pela Coordenadoria de Desenvolvimento de Sistemas da STI, os novos projetos de modelos ou soluções de IA considerados viáveis deverão seguir os procedimentos de análise e priorização pela alta administração, conforme a Portaria TRE-SP nº 58/2020.

Art. 11.  Os novos projetos de modelos ou soluções de IA considerados viáveis pelo GAIA deverão ser submetidos à análise da alta administração antes de serem iniciados.

Art. 12.  As soluções ou modelos de IA desenvolvidos interna ou externamente, neste caso, sob demanda do TRE-SP, serão de propriedade deste.

Art. 13.  Os códigos-fonte dos modelos ou soluções de IA deverão ser armazenados em repositório de versionamento de código de acordo com as diretivas do TRE-SP.

Art. 14.  As bases de dados utilizadas nos modelos ou soluções de IA deverão ser armazenadas de acordo com as diretivas do TRE-SP e em observância à segurança da informação e proteção de dados, inclusive os pessoais e pessoais sensíveis.

Art. 15.  O desenvolvimento de novos modelos ou soluções de IA deverão seguir os procedimentos dispostos na Portaria TRE-SP nº 225/2023, que dispõe sobre a instituição do Desenvolvimento Seguro de Software, relativa à Política de Segurança da Informação (PSI) do TRE-SP.

CAPÍTULO V

DO USO DA PLATAFORMA SINAPSES

Art. 16.  Todas as usuárias e usuários internos que desenvolvam ou implantem modelos ou soluções de IA deverão:

I - Efetuar cadastro individual na plataforma Sinapses;

II - Utilizar o espaço de trabalho (workspace) exclusivo do TRE-SP existente no Sinapses;

III - Observar as regras da PSI do TRE-SP aplicáveis;

IV - Solicitar previamente às áreas negociais ou controladoras os acessos às bases de dados, sejam públicas ou não.

CAPÍTULO VI

DA PRESTAÇÃO DE CONTAS

Art. 17.  As gestoras ou gestores negociais e de tecnologia dos projetos de modelos ou soluções de IA homologados deverão submeter ao GAIA a prestação de contas de cada sistema, que compreenderá: (Art. 25, Res. CNJ nº 332/2020)

I - Os nomes das pessoas responsáveis pela execução das ações e pela prestação de contas;

II - Os custos envolvidos na pesquisa, desenvolvimento, implantação, comunicação e treinamento;

III - A existência de ações de colaboração e cooperação entre agentes do setor público ou desses com a iniciativa privada ou a sociedade civil;

IV - Os resultados pretendidos e os que foram efetivamente alcançados;

V - A demonstração de efetiva publicidade quanto à natureza do serviço oferecido, técnicas utilizadas, desempenho do sistema e riscos de erros.

CAPÍTULO VII

DISPOSIÇÕES FINAIS

Art. 18.  Os projetos de modelos ou soluções de IA atualmente implantados ou em desenvolvimento deverão:

I - Ser submetidos ao GAIA para registro e inventário, no prazo de 30 dias.

II - Ser gradualmente adequados ao disposto nesta portaria, pelas áreas responsáveis, no prazo de 180 dias.

Art. 19.  O GAIA deverá desenvolver, em até 120 dias, documento ou formulário contendo as informações do modelo ou solução de IA a ser registrado ou avaliado, bem como o processo de análise de viabilidade, incluindo critérios, conforme o artigo 8º desta portaria.

Art. 20.  O GAIA deverá submeter à alta administração, em até 180 dias, processo visando assegurar a realização de estudos, pesquisas, ensino e treinamentos de inteligência artificial livre de preconceitos.

Art. 21.  Os casos omissos serão submetidos à Diretoria Geral.

Art. 22.  O TRE-SP deverá reforçar e aprimorar constantemente esta portaria, empreendendo estudos a fim de verificar a necessidade de sua revisão, no máximo a cada dois anos, atentando à evolução tecnológica e aos novos paradigmas de boas práticas, bem como quando houver edição de ato ou alteração de leis ou regulamentos que interfiram em sua aplicação ou, ainda, se houver necessidade em razão de ocorrências ou incidentes que assim a exigirem.

Art. 23.  Esta portaria entrará em vigor na data de sua publicação.

SILMAR FERNANDES

PRESIDENTE