Em Bletchley, Rishi Sunak confirma o AI Safety Institute, mas adia os regulamentos para outro dia

Paulo Boaventura
19 Views
5 Min Read

Um grupo de trabalho Frontier AI estabelecido pelo Reino Unido em junho para se preparar para a Cimeira de Segurança da IA, realizada esta semana, está em vias de se tornar um elemento permanente, à medida que o Reino Unido se propõe assumir um papel de liderança na política de IA no futuro. O primeiro-ministro do Reino Unido, Rishi Sunak, anunciou hoje formalmente o lançamento do AI Safety Institute, um “centro global com sede no Reino Unido e encarregado de testar a segurança de tipos emergentes de IA”.

O instituto foi anunciado informalmente na semana passada, antes da cimeira desta semana. Agora, o governo confirmou que será liderado por Ian Hogarth — um investidor, fundador e engenheiro que também presidiu o grupo de trabalho — e que Yoshuo Bengio, uma das pessoas mais proeminentes no campo da IA, assumirá a liderança. a produção do seu primeiro relatório.

Não está claro quanto financiamento o governo injetará no AI Safety Institute, ou se se espera que os participantes da indústria paguem parte da conta. O instituto, que ficará subordinado ao Departamento de Ciência, Inovação e Tecnologia, é descrito como “apoiado por empresas líderes de IA”, embora isso possa ser mais uma referência ao endosso do que ao apoio financeiro. Entramos em contato com o DSIT para perguntar e atualizaremos à medida que soubermos mais.

A notícia surge juntamente com o anúncio de ontem de um novo acordo, a Declaração de Bletchley , que foi assinada por todos os países que participaram na cimeira e os compromete a realizar testes conjuntos e outros compromissos na avaliação dos riscos das tecnologias de “IA de fronteira”, para exemplo, grandes modelos de linguagem.

“Até agora, as únicas pessoas que testam a segurança dos novos modelos de IA têm sido as próprias empresas que os desenvolvem”, disse Sunak numa reunião com jornalistas esta noite. Citando o trabalho que está a ser feito também por outros países, a ONU e o G7 para abordar a IA, agora o plano será “trabalhar em conjunto no teste da segurança de novos modelos de IA antes de serem lançados”.

Tudo isso, com certeza, ainda está em seus estágios iniciais. Até agora, o Reino Unido tem resistido a tomar medidas para considerar a forma de regular as tecnologias de IA, tanto ao nível da plataforma como a níveis de aplicação mais específicos, e alguns acreditam que, sem qualquer força, as ideias de segurança e de quantificação do risco não fazem sentido.

Sunak argumentou que é muito cedo para regulamentar.

“A tecnologia está a desenvolver-se a um ritmo tal que os governos têm de garantir que conseguimos acompanhá-la”, disse Sunak em resposta a uma acusação de que estava a ser demasiado leve na legislação e ao mesmo tempo a apostar em grandes ideias. “Antes de começar a exigir e legislar sobre coisas… você precisa saber exatamente sobre o que está legislando.”

Embora a transparência pareça ser um objectivo muito claro de muitos dos esforços a longo prazo em torno deste admirável mundo novo da tecnologia, a série de reuniões de hoje em Bletchley, segundo dia da cimeira, esteve muito longe desse espírito.

Além das sessões bilaterais com a presidente da Comissão Europeia, Ursula von der Leyen, e o secretário-geral das Nações Unidas, António Guterres, a cimeira de hoje centrou-se em duas sessões plenárias. Fechados para jornalistas além de pequenas piscinas observando as pessoas reunidas em salas, os participantes incluíram os CEOs da DeepMind, OpenAI, Antrhopic, InflectionAI, Salesforce e Mistral, bem como o presidente da Microsoft e chefe da AWS. Entre os representantes dos governos, a formação incluía Sunak e a vice-presidente dos EUA, Kamala Harris, bem como Giorgia Meloni, da Itália, e o ministro das finanças francês, Bruno Le Maire.

Notavelmente, embora a China tenha sido um convidado muito elogiado durante o primeiro dia, não compareceu nas plenárias fechadas do segundo dia.

Também ausente nas sessões de hoje, ao que parece, estava Elon Musk, proprietário do X.ai (anteriormente conhecido como Twitter). Sunak deve ter um bate-papo com ele esta noite na plataforma social de Musk. Curiosamente, não se espera que seja uma transmissão ao vivo.

Por techcrunch
Tradução por Paulo Boaventura

Share This Article
Leave a review

Leave a review

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *