Atualmente, convivemos com inúmeros textos, vídeos e imagens produzidos por Inteligências Artificiais (IA). Se, por um lado, a capacidade de escrita das futuras gerações parece estar em risco, por outro, há cada vez menos erros gramaticais nos textos do cotidiano
É importante ressaltar, porém, que além de evitar falhas e formular textos coesos, a IA também reproduz preconceitos e estigmas sociais vinculados aos seus criadores. Esses sistemas refletem estruturas sociais desiguais, impactando direitos, acesso à informação e dinâmicas de poder.
A coletânea Estudos Sociopolíticos da Inteligência Artificial, organizada por Sylvia Iasulaitis e Sérgio Amadeu, desloca o debate sobre IA do campo técnico para o das disputas sociais e políticas. Em um dos textos compilados pelos autores, intitulado ‘Não Sou Robô: O ser humano na Era da Inteligência Artificial’, o professor Pedro P. Ferreira explica como o sistema de Captcha, usado para distinguir humanos de computadores, foi, nas últimas décadas, empregado também no treinamento das próprias IAs.
O autor relata que, em 2009, a Google comprou o sistema reCaptcha da Yahoo. A partir de então, em vez de decifrar apenas sequências de caracteres distorcidos, os usuários passaram a contribuir com um projeto maior: transcrever palavras digitalizadas do projeto ‘Google Books’. Assim, ao identificar corretamente uma palavra, a pessoa provava ser humana; ao identificar a outra, ajudava o sistema a corrigir falhas na digitalização de livros.
Embora o funcionamento do reCaptcha seja interessante, há um ponto crucial que passa despercebido pela maioria das pessoas: os captchas são, em essência, capacitistas. Isso porque consideram “humanos” apenas aqueles capazes de inserir caracteres corretos na caixa de texto ou reconhecer objetos em imagens ambíguas, desconsiderando pessoas com deficiência que não conseguem realizar tais tarefas.
As análises e opiniões expressas neste texto são de responsabilidade exclusiva do autor e não refletem, obrigatoriamente, a posição institucional ou o ponto de vista da organização.
Texto: Gabriel Lana – Analista Político NEP/FRB
