A Comissão Europeia não deve contratar internamente seu principal consultor científico em inteligência artificial (IA), escrevem Alex Petropolos e Max Reddel.
Alex Petropoulos é analista de IA avançada no ICFG, um think tank sediado em Bruxelas. Max Reddel é diretor de IA avançada no ICFG.
O Gabinete de IA da UE está num momento decisivo. Relatórios sugerem que a Comissão está procurando preencher a função crucial de Conselheiro Científico Líder com uma contratação interna em vez de um especialista externo, embora a função só possa ser preenchida adequadamente por um cientista líder. O Conselheiro influenciará fortemente as decisões de contratação e operacionais no Escritório. Sem um líder bem qualificado, o Escritório terá dificuldades para atrair o talento científico e técnico necessário para cumprir sua missão de moldar a governança da IA na Europa.
A Comissão poderia maximizar as chances de contratar um candidato qualificado convidando cientistas de classe mundial para se candidatarem a esta posição-chave. Encontrar um funcionário interno com as credenciais necessárias para preencher a função de consultor científico líder será desafiador, para dizer o mínimo.
Por um lado, um candidato adequado poderia ganhar 6-7 figuras em uma empresa líder em IA. Por outro lado, é altamente improvável que as instituições da UE já tenham um cientista de IA altamente qualificado em suas fileiras. O Reino Unido e os EUA contrataram ex-pesquisadores da DeepMind e da OpenAI, respectivamente. Com experiência na UE já ralo no chãoé altamente improvável que essa competência já exista em uma instituição da UE.
Mas o que torna esse papel tão importante? A resposta se resume ao talento. Para criar uma instituição que responda a perguntas importantes, mas desconhecidas, sobre como regular e atingir modelos de IA confiáveis, o talento é o gargalo número um.
Uma das questões mais importantes que o AI Office terá que enfrentar é avaliar se os modelos de IA de propósito geral representam riscos sistêmicos – uma tarefa que precisará de pessoal selecionado de pools de talentos de classe mundial em campos altamente competitivos. O Office, no entanto, precisará dessa experiência em todos os níveis, de consultores científicos a oficiais de políticas.
Um exemplo claro é o facto de os Institutos de Segurança em IA do Reino Unido e dos EUA (AISIs), ao abordarem problemas semelhantes, terem feito da aquisição de talentos com experiência de trabalho em empresas de IA de ponta uma das suas indicadores-chave de desempenho. Como o famoso piloto e estrategista da Força Aérea dos EUA, John Boyd disse: “Pessoas, ideias, máquinas – nessa ordem!”
Esta estratégia demonstrou um sucesso notável. Menos de três meses após a sua fundação, o AISI do Reino Unido contratado mais de 50 anos de experiência técnica de laboratório de fronteira, com o proeminente pesquisador de IA Yoshua Bengio em seu conselho consultivo. Em um cronograma semelhante, o US AISI contratou Paul Christiano como Chefe de Segurança de IA.
Em forte contraste, mais de 100 dias após sua criação, o Escritório de IA da UE ainda precisa nomear um Chefe de Unidade para Segurança de IA ou um Conselheiro Científico Principal — duas posições cruciais que definirão o tom e a direção do Escritório em sua infância.
Caso a Comissão não preencha essas funções com candidatos adequados, uma conversa mais ampla pode precisar começar sobre o futuro do AI Office. mandato expandiu-se progressivamente e agora abrange regulamentação e conformidade, excelência em IA e robótica, IA para o bem social, inovação em IA e coordenação de políticas, bem como Segurança em IA. Devem ser levantadas questões sobre as sensibilidades de agrupar inovação, segurança e regulamentação em uma única organização, quando muitas dessas ambições entram em conflito.
Na verdade, se as regras internas da Comissão tornarem impossível a procura de peritos científicos externos – como algumas pessoas suspeitam – isso poderá forçar o Gabinete de IA a concentrar-se apenas na regulamentação e a renunciar às suas outras funções. mandato de “fomentar o desenvolvimento e o uso de IA confiável” na Europa. Isso abriria caminho para uma nova instituição ousada assumir essa tarefa: uma CERN para IAcomo propôs a presidente da Comissão Europeia, Ursula von der Leyen, em julho.
Isso ajudaria a esclarecer a abordagem da UE, mas não mudaria os fundamentos. Se a UE quiser assumir um papel de liderança na formação da economia global de IA, ela deve investir no talento e na infraestrutura necessários para construir modelos avançados de IA. Como disse John Boyd: “Pessoas, ideias, máquinas – nessa ordem!” A ambição e as ideias estão lá. Não devemos ignorar o talento.
