Espera-se que componentes de segurança cibernética e serviços de emergência baseados em inteligência artificial (IA) em dispositivos conectados à Internet sejam classificados como de alto risco no contexto da Lei de IA, de acordo com um documento da Comissão Europeia visto pela Euractiv.
O documento sobre a interação entre a Diretiva de Equipamentos de Rádio (RED) de 2014 e a Lei de IA é a primeira interpretação conhecida de como a Lei tratará os componentes de segurança baseados em IA, estabelecendo a lógica que poderia ser usada para classificar outros tipos de produtos como de alto risco.
O RED abrange mais do que rádios tradicionais: ele se refere a dispositivos sem fio, usando, por exemplo, WiFi ou Bluetooth.
Além de qualquer legislação setorial aplicável, os sistemas de IA de alto risco exigem testes extensivos, gerenciamento de riscos, medidas de segurança e documentação sob a Lei de IA.
O AI Act inclui uma lista de casos de uso em que, se a IA for implantada, ela é automaticamente categorizada como de alto risco. Isso inclui áreas como infraestrutura crítica e aplicação da lei.
A Lei também estabelece um limite fundamental para categorizar outros produtos de alto risco: avaliações de conformidade de terceiros com regulamentações específicas do setor promulgadas anteriormente.
Esses sistemas de IA precisam atender a dois critérios para serem classificados como de alto risco:
A primeira é que o sistema é um componente de segurança de um produto, ou o sistema de IA é um produto em si, que é coberto por legislação preexistente.
A segunda é que esse tipo de componente ou produto precisa passar por uma avaliação de terceiros para demonstrar conformidade com regras previamente promulgadas.
De acordo com o documento da Comissão, os componentes relacionados à segurança cibernética e ao acesso a serviços de emergência atendem a ambos os critérios no RED, o que os torna sistemas de alto risco.
No entanto, a opinião preliminar da Comissão é que, mesmo em alguns casos em que a RED prevê uma exclusão da avaliação de terceiros, ou seja, quando uma empresa pode demonstrar conformidade com padrões harmonizados por meio de uma autoavaliação, este é apenas um mecanismo processual.
Dessa forma, mesmo quando tais exceções existem, os componentes baseados em IA, neste caso relacionados à segurança cibernética, ainda são considerados de alto risco.
De máquinas pesadas a embarcações pessoais
A Lei da IA listas uma barragem de regulamentação setorial previamente promulgada que pode ser usada para classificar produtos de IA como de alto risco. Mais documentos como o do RED podem ser esperados.
Além de eletrônicos, produtos como dispositivos médicos, aviação, maquinário pesado, até mesmo “embarcações pessoais” e elevadores são abrangidos pela legislação harmonizada relevante para a Lei de IA, portanto, podem passar por um processo semelhante ao RED.
A interpretação preliminar mostra que padrões de autoavaliação semelhantes provavelmente não podem ser usados para remover a etiqueta de alto risco de produtos de IA nesses setores.
O AI Act coloca requisitos consideráveis em sistemas de IA de alto risco. Sistemas de IA que não estão nessa categoria enfrentam apenas pequenas obrigações de transparência.
A questão é, portanto, quais sistemas se enquadram na categoria de alto risco.
Embora a Comissão tenha estimado 5-15% dos sistemas de IA será classificada como de alto risco em 2021, uma pesquisa de 2022 com 113 startups sediadas na UE disse ter descoberto que 33-50% das startups consideram seu próprio produto como de alto risco.
O documento da comissão é apenas uma interpretação preliminar, resta saber exatamente como o AI Act irá interagir com o RED e outras regulamentações. Apesar do AI Act ter mais de 500 páginas, ainda resta um trabalho interpretativo considerável para determinar como ele será aplicado a uma tecnologia intersetorial de rápido movimento.
(Editado por Eliza Gkritsi/Zoran Radosavljevic)
Leia mais com Euractiv
