Observatório de dados do Reino Unido alerta sobre discriminação de neurotecnologia

Jan 26, 2024

Primeiro, as pessoas se preocupavam com o viés algorítmico. Agora, eles estão preocupados com o viés da IA ​​estendendo esse perigo. Mas logo, a grande preocupação pode ser o viés na neurotecnologia - um campo em rápido crescimento que inclui nomes como o Neuralink de Elon Musk e o rival apoiado por Jeff Bezos e Bill Gates, o fabricante de implantes cerebrais Synchron.

O regulador de proteção de dados do Reino Unido, o Information Commissioner's Office (ICO), disse hoje que espera ver dispositivos que captam sinais vindos do sistema nervoso "se tornarem difundidos na próxima década". Embora os pesquisadores já estejam usando implantes cerebrais para combater a demência e ajudar as pessoas paralisadas a voltarem a andar, disse o cão de guarda, “as neurotecnologias estão se desenvolvendo rapidamente para uso nos setores de bem-estar pessoal, esportes e marketing e até mesmo para monitorar pessoas no local de trabalho”.

O ICO teme que um viés perigoso possa se infiltrar nos modelos que estão sendo desenvolvidos para ler e interpretar neurodados, se os dispositivos não forem avaliados em pessoas neurodivergentes em particular. Por exemplo, os sistemas de neurotecnologia podem ter a suposição embutida de que certos padrões são "indesejáveis... [então] aqueles com esses padrões podem ser negligenciados para promoções ou oportunidades de emprego".

"A neurotecnologia coleta informações pessoais íntimas das quais as pessoas geralmente não estão cientes, incluindo emoções e comportamentos complexos. As consequências podem ser terríveis se essas tecnologias forem desenvolvidas ou implantadas de forma inadequada", disse o chefe de risco regulatório da agência, Stephen Almond.

A Synchron já está conduzindo testes em humanos de seu implante cerebral - disse no início deste ano que o implante "parecia ser seguro e permitia que os pacientes enviassem mensagens de texto, e-mail, transações bancárias e compras on-line e comunicassem necessidades de cuidados usando seus pensamentos". O Neuralink, que afirma que sua interface cerebral "restaurará a autonomia para aqueles com necessidades médicas não atendidas hoje e desbloqueará o potencial humano amanhã", finalmente obteve a aprovação do FDA para testes em humanos algumas semanas atrás.

A Meta também se interessou pelo espaço da interface cerebral por vários anos sob seu antigo disfarce do Facebook, mas desistiu em 2021, com base no fato de que o hardware montado na cabeça do consumidor estava muito longe. Em vez disso, decidiu se concentrar no desenvolvimento de um dispositivo usado no pulso que pudesse detectar sinais nervosos motores elétricos - o tipo de coisa que poderia ser útil para interagir com o metaverso.

A ICO avalia que esses dispositivos vestíveis serão os que ganharão força real no mercado daqui a vários anos, sendo integrados a rastreadores de condicionamento físico, implantados no local de trabalho e usados ​​para jogar jogos VR/AR.

No entanto, se você viu aquele tweet fascinante do neurotecnologista Sterling Crispin, que trabalhou no headset Vision Pro da Apple e o descreveu como "uma interface de computador cerebral grosseira através dos olhos"... não, o ICO não está preocupado com isso. "Estamos falando da coleta de dados diretamente do cérebro e do sistema nervoso das pessoas", disse-me um porta-voz.

O ICO disse que emitirá orientações específicas sobre neurodados até 2025. Enquanto isso, ele publicou um relatório sobre o assunto, que você pode ler aqui.

Mais notícias abaixo.

Quer enviar pensamentos ou sugestões para a Folha de Dados? Solte uma linha aqui.

David Meyer

A seção de notícias diárias do Data Sheet foi escrita e com curadoria de Andrea Guzman.

Google e Salesforce se unem. Após uma colaboração de análise e big data em 2017, os gigantes da tecnologia Salesforce e Google decidiram fazer parceria novamente. Este último projeto permitirá que as empresas usem seus dados junto com modelos personalizados de aprendizado de máquina para antecipar as necessidades de seus clientes. Isso envolverá a integração do Data Cloud da Salesforce com o BigQuery do Google e a plataforma Vertex AI para que os usuários possam trazer quaisquer modelos de IA que treinaram na Vertex para a plataforma da Salesforce. O acordo segue os anúncios da Salesforce este ano sobre novas ferramentas de IA, como seu assistente para gerenciamento de relacionamento com o cliente conhecido como Einstein GPT, e como o Google fica atrás da Amazon e da Microsoft no mercado de infraestrutura em nuvem dos EUA, informa o TechCrunch.