NOVOS DESAFIOS NA REGULAMENTAÇÃO JURÍDICA: CERTIFICAÇÃO E ROTULAGEM DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL

Resumo

Objetivo: O objeto desta publicação científica são as peculiaridades da regulamentação jurídica dos sistemas de inteligência artificial, em especial a necessidade de implementação de mecanismos de certificação e rotulagem para garantir o uso seguro e responsável da inteligência artificial.

Método: O método de pesquisa envolve uma análise detalhada do marco regulatório, especialmente dos principais documentos da União Europeia, como o Artificial Intelligence Act, o White Paper on Artificial Intelligence e outros. Com base nessa análise, foram elaboradas propostas sobre a necessidade de criar um sistema de controle eficaz que garanta a conformidade com os padrões de segurança, ética e privacidade da inteligência artificial por meio da implementação de mecanismos de certificação e rotulagem.

Resultados: Nesta publicação científica, os autores examinam a necessidade de regulamentação legal dos sistemas de inteligência artificial, especificamente a implementação de mecanismos de certificação e rotulagem como uma etapa essencial para garantir a segurança, a qualidade e a confiança em tais sistemas. Argumenta-se que a certificação e a rotulagem permitem a identificação de sistemas de alto risco e daqueles sujeitos à rotulagem voluntária, além de criar um sistema de controle eficaz para garantir a conformidade com os padrões de segurança, privacidade e ética. Conclui-se que esses procedimentos representam um meio-termo entre a necessidade de regulamentação e a promoção da inovação, permitindo a criação de critérios de qualidade padronizados sem uma regulamentação onerosa. Ao mesmo tempo, esses mecanismos aumentam a confiança do usuário nas tecnologias, facilitando sua adoção e desenvolvimento. A abordagem proposta para regulamentar os sistemas de inteligência artificial aumenta a competitividade das empresas europeias no mercado global e se alinha às metas estratégicas da União Europeia com relação a altos padrões de qualidade, ética e segurança no desenvolvimento e uso dessas tecnologias.

Contribuição: Observa-se que o uso crescente de tecnologias de inteligência artificial é acompanhado de riscos que exigem regulamentação jurídica adequada. Identifica-se a necessidade do desenvolvimento de mecanismos de controle eficazes para sistemas de IA, levando em conta seus riscos. O artigo enfatiza a importância da implementação de procedimentos transparentes de certificação e rotulagem como mecanismos de regulamentação legal para sistemas de IA, especialmente aqueles com altos riscos. A questão da determinação do status legal de tais sistemas também é discutida, a fim de estabelecer regras relevantes para seu desenvolvimento, uso e implementação, que podem ser padronizadas em nível nacional e internacional. Destaca-se que o principal objetivo de estabelecer mecanismos regulatórios é alcançar um equilíbrio entre o desenvolvimento e a inovação no campo da inteligência artificial e a proteção dos direitos, da segurança e dos interesses dos indivíduos e da sociedade como um todo. Com base nos resultados da pesquisa, duas estratégias regulatórias para sistemas de IA, dependendo do nível de risco, são propostas para garantir a segurança, a qualidade e a confiança nas tecnologias de IA. São apresentados os princípios fundamentais da política europeia em relação à certificação e à rotulagem, e é enfatizada a necessidade de fortalecer o controle sobre a conformidade com os padrões e requisitos por meio desses procedimentos.