A Comissão Europeia planeja permitir que os provedores de modelos de inteligência artificial (IA) semelhantes ao ChatGPT escrevam códigos de práticas que determinarão sua conformidade no curto e médio prazo, com a sociedade civil em uma função consultiva.
Organizações da sociedade civil têm se perguntado nos últimos meses se estarão envolvidas em Códigos de Práticas para modelos de IA de uso geral (GPAI), disseram fontes com conhecimento do assunto à Euractiv.
Enquanto isso, a Euractiv foi informada de que a Comissão Europeia está procurando empresas de consultoria para elaborar esses códigos.
Os Códigos de Práticas são uma parte crucial da Lei de IA, pelo menos no curto e médio prazo.
Os provedores de GPAI, como OpenAI ou Microsoft, podem usar os códigos para demonstrar conformidade com suas obrigações até que padrões harmonizados sejam criados. A Comissão pode dar aos códigos validade geral dentro da UE por meio de um ato de implementação.
“Se o processo de elaboração dos Códigos de Práticas de IA de Propósito Geral não for multissetorial, incluindo a sociedade civil, acadêmicos e especialistas independentes, isso pode significar um processo liderado pela indústria; essencialmente, as Big Techs escrevendo suas próprias regras”, disse à Euractiv uma pessoa da sociedade civil, que não quis ser identificada, comentando sobre uma situação em evolução.
Dentro da própria Lei de IA, a participação de provedores, sociedade civil e academia na elaboração de códigos para modelos de IA de uso geral era ambígua, pois afirmava que eles “podem” participar.
Acontece que os fornecedores dos modelos serão os principais responsáveis pela elaboração dos códigos, com outras partes interessadas participando por meio de consultas, de acordo com informações disponibilizadas à Euractiv.
Como essa consulta ocorrerá ainda é desconhecido. Pode significar uma ou várias chamadas para opiniões ou ser convidado para a sala sob status de observador.
Várias fontes com conhecimento do assunto disseram à Euractiv que algumas organizações fizeram uma apresentação numa reunião da Comissão oficina em junho, sugerindo que a situação está evoluindo e que a Comissão pode agora estar mais aberta a incluir a sociedade civil.
Um porta-voz da Comissão disse à Euractiv que “um convite à manifestação de interesse, a ser publicado em breve, irá delinear as formas específicas em que estas partes interessadas estarão envolvidas no desenvolvimento dos códigos”.
“O processo de preparação do código de práticas será apoiado por uma gama diversificada de partes interessadas, incluindo a sociedade civil”, disse o porta-voz da Comissão, mas se recusou a dar detalhes sobre como isso será alcançado.
Se os prestadores não assinarem as diretrizes, que de outro modo seriam voluntárias, terão de provar de forma independente que cumprem quase todas as Lei de 500 páginas.
O processo de elaboração
A Direção-Geral de Redes de Comunicações, Conteúdos e Tecnologia (DG CNECT) da Comissão realizou uma minicompetição ao abrigo de um contrato-quadro existente que terminou em junho, de acordo com informações verificadas pela Euractiv.
O processo e a elaboração dos códigos serão terceirizados para uma empresa externa, que terá que descobrir quem fará parte do processo, elaborar e executar um programa de trabalho, criar grupos de trabalho com reuniões semanais e elaborar os códigos em nove meses.
Como resultado, a Comissão estabeleceu um cronograma agressivo para o trabalho das empresas de consultoria.
Todas as consultas com as partes interessadas, agendas e metodologias devem ser aprovadas pelo recém-criado Escritório de IA da Comissão.
O AI Office monitorará a elaboração, mas não se envolverá muito, exceto para aprovar os códigos finais, de acordo com informações confirmadas pela Euractiv. O AI Board, composto por especialistas de estados-membros, terá um papel semelhante ao da Comissão em não se envolver muito no processo de elaboração.
A empresa premiada também mapeará a melhor maneira para a Comissão avaliar os riscos do GPAI, incluindo riscos sistêmicos.
A implementação da Lei da IA foi adiada várias semanas, prevendo-se que a Lei entre em vigor no início Agosto. Ele será totalmente implementado dois anos depois, mas os códigos de prática deverão ser preparados nove meses a partir da data de sua entrada em vigor.
A contratação da empresa de consultoria para a elaboração dos códigos é feita sob um contrato-quadro. Esses são “acordos plurianuais que definem os termos básicos” para um contrato a ser concedido posteriormente, disse o professor Albert Sanchez-Graells, que estuda processos de aquisição da UE na Universidade de Bristol, à Euractiv.
As empresas concorrem por meio de concurso público e são pré-selecionadas para tarefas gerais como “assistência aos serviços da Comissão na execução de auditorias.” Quando surge um trabalho específico no âmbito do contrato-quadro, a Comissão pode realizar um mini-concurso entre as empresas pré-selecionadas.
Enigma da participação
Esse processo liderado pela indústria “corre o risco de uma implementação infiel da Lei da IA, que não protegeria suficientemente a segurança e os direitos fundamentais dos cidadãos da UE”, disse uma parte interessada, que solicitou anonimato.
No final de abril, estas partes interessadas expressaram as suas preocupações à Comissão num outro workshop, disseram à Euractiv pessoas presentes na reunião, e o antigo editor técnico da Euractiv, Luca Bertuzzi confirmado no LinkedIn.
A Comissão esclareceu a eles que eles não seriam uma força motriz na elaboração. Naquele ponto, algumas dessas organizações enviaram cartas para expressar sua insatisfação, mas a maioria ainda não recebeu uma resposta completa, disseram pessoas com conhecimento do assunto à Euractiv.
O executivo da UE já enfrentou críticas sobre seu tratamento da implementação da Lei de IA. A nomeação do relator do arquivo para o AI Office sem qualquer anúncio público de emprego ou explicação, relatado pela primeira vez por Contexto e então Eurativocausou comoção.
Um grupo de mais de 30 organizações da sociedade civil, incluindo a principal associação de consumidores BEUC, lançou dúvidas sobre a independência das autoridades nacionais encarregadas de fazer cumprir a Lei. carta aberta em 26 de junhoeles pediram à Comissão que esclarecesse essas funções.
Três eurodeputados, que foram reeleitos na UE de Junho, votam perguntas enviadas à Comissão em abril sobre o processo de dotação de pessoal para o escritório. Eles ainda não receberam uma resposta oficial.
(Editado por Alice Taylor/Zoran Radosavljevic)
Leia mais com Euractiv
