Milhões de livros vêm sendo comprados, digitalizados e destruídos por empresas de inteligência artificial. Em janeiro, uma investigação conduzida pelo Washington Post revelou que a Anthropic, desenvolvedora do Claude, havia montado uma operação para escanear destrutivamente milhões de volumes.
Em agosto, a 404 Media rastreou um lote de livros raros até uma instalação da Amazon em Las Vegas, onde funcionários cortavam lombadas e alimentavam scanners. Ironicamente, uma das empresas tem entre seus fundadores uma graduada em literatura e a outra nasceu como livraria virtual.
O episódio evoca a distopia imaginada por Ray Bradbury em Fahrenheit 451, romance de 1953 que se passa em um mundo onde a simples posse de livros é um crime e equipes especializadas caçam e incendeiam os últimos exemplares ainda existentes. Também traz à memória eventos como as grandes queimas de livros promovidas por regimes autoritários do século 20 com o objetivo de purificação ideológica. Ao contrário dos seus análogos ficcionais e históricos, porém, a destruição de livros por empresas de IA não é uma tentativa deliberada de apagar ideias. O objetivo é incorporá-los, em escala industrial, aos conjuntos de dados usados para treinar modelos de linguagem.
O procedimento é simples. Comprados em sebos e livrarias, os volumes têm lombadas removidas por cortadores hidráulicos para que as páginas passem rapidamente por scanners e, concluído o processo, são descartados. A procura alcança obras antigas, esgotadas e até exemplares raros.
Textos publicados anteriormente à popularização da IA generativa são especialmente visados, por oferecerem material humano insuspeito (por razões técnicas cujo detalhamento não cabe neste espaço, modelos de linguagem têm seu desempenho afetado para pior se forem treinados com dados gerados por outros modelos). Como os dados de qualidade disponíveis online e ainda não utilizados são cada vez mais escassos, livros físicos são a nova fronteira do desenvolvimento de sistemas de IA mais inteligentes.
Na matemática do Vale do Silício, nenhum livro tem valor como obra singular, apenas como item de um agregado estatístico. Nessa equação, o valor de qualquer elemento individual é marginal e pode ser substituído ou suprimido sem prejuízo. Segundo a lógica extrativista do data mining, dados extraídos dos livros viram commodities – matéria-prima computacional.
Nesse contexto, a destruição dos livros resulta da interação entre eficiência operacional, direito de propriedade e copyright (direito autoral). A estratégia destrutiva é a alternativa menos onerosa e juridicamente mais segura para converter uma biblioteca física em um acervo digital privado, revelando um problema de desenho institucional.
O caso Bartz v. Anthropic ajuda a compreender esse cenário. Autores processaram a empresa, nos EUA, por usar cópias digitais piratas de milhões de livros para treinar modelos de IA. A justiça norte-americana separou três condutas: a digitalização de exemplares impressos adquiridos legalmente, a formação de uma biblioteca digital com arquivos obtidos por meio de pirataria e o uso das obras no treinamento dos modelos de IA. A justiça considerou o treinamento um uso transformativo.
Segundo a doutrina do fair use, prevalente no copyright norte-americano, é transformativo o uso de material protegido que resulta na produção de uma obra nova, dotada de expressão, significado ou mensagem diferente da original. Sendo este o caso, considera-se que não há infração ao direito do autor da obra original, mesmo sem a sua autorização. Para esse fim, foi considerada aceitável a digitalização de exemplares de livros comprados para serem incorporados a bancos de dados.
Já o uso de arquivos piratas foi considerado uma infração ao copyright dos autores. Mais um entre tantos processos judiciais iniciados por autores, artistas, jornais e outros criadores contra empresas de IA nos últimos anos, o caso Bartz terminou com um acordo em que a Anthropic concordou em pagar US$ 1,5 bilhão e destruir as cópias piratas de livros obtidas na internet.
A destruição dos volumes físicos foi relevante para a conclusão de que a conversão de formato não ampliara o número de cópias. A versão digitalizada substitui a original que a empresa havia comprado. Com isso, foram satisfeitas as exigências do copyright, não importando que a versão remanescente esteja guardada em um banco de dados privado inacessível ao público, podendo permanecer secreta.
O caso mostra que o direito autoral protege o interesse dos criadores contra a reprodução não autorizada de suas obras, mas não protege o interesse público de que essas obras permaneçam acessíveis à coletividade, o que é especialmente grave no que se refere a obras raras. Livros raros podem guardar ideias valiosas que merecem ser preservadas. Podem ter valor histórico, documental ou afetivo. A destruição definitiva de obras relevantes para a cultura, o conhecimento ou a expressão de um povo subtrai do seu patrimônio imaterial coletivo e empobrece o seu vocabulário compartilhado.
A concessão, aos autores, de direitos exclusivos sobre as suas obras é o núcleo do que se institucionalizou como copyright na tradição do common law ou direito autoral (droit d’auteur) na tradição romano-germânica. No copyright norte-americano, os direitos exclusivos são justificados como um instrumento para promover o progresso das ciências e das artes. No droit d’auteur continental, somam-se os vínculos pessoais entre autor e obra, expressos nos direitos morais.
Em ambas as tradições, há limites ao direito do criador, tendo em vista o interesse público. Embora seja um dos ramos do direito mais afetados pelas transformações tecnológicas do século 21, o direito autoral permanece um dos mais apegados a conceitos criados para um mundo analógico. Ainda hoje, as principais categorias do direito autoral são elaborações do século 19 para um mercado baseado em papel e tinta, no qual os custos de reprodução são proporcionais ao número de exemplares. Trazidas para o mundo das nuvens digitais, internet sem fio e inteligência artificial generativa, porém, elas não funcionam da mesma maneira, podendo produzir incentivos perversos.
A forma como os sistemas normativos são concebidos incentiva certas condutas, inibindo outras. O fato de o direito de autor, em sua configuração atual, permitir e favorecer operações de digitalização destrutiva de livros aponta para a necessidade de se repensar alguns de seus institutos.
Se o direito não oferece incentivos para que as empresas de IA preservem os livros que usam para treinar seus modelos, é necessário que sejam criados. Isso pode ser feito, entre outras maneiras, com o estabelecimento de uma espécie de tombamento ou ambientalismo literário que restrinja o direito do proprietário de destruir intencionalmente exemplar incluído em inventário de obras raras ou esgotadas.
Outra possibilidade é a instituição de uma fast-track para que obras raras ou sem interesse econômico para seus titulares passem mais rapidamente ao domínio público, o que viabilizaria sua livre reprodução. Em uma chave mais convencional, o abuso de direito, onde reconhecido, pode ser articulado para inibir ou controlar o emprego de processos destrutivos de digitalização.
Quando a tecnologia existente permite superar barreiras físicas – tempo, espaço e matéria – a uma distribuição mais ampla e equitativa dos bens intelectuais, não deveria haver justificativa para que o treinamento de sistemas de IA com o patrimônio imaterial da humanidade leve à destruição desse mesmo patrimônio.
Ao permitir que a destruição de livros seja uma escolha racional, o direito autoral revela uma cisão entre sua forma institucionalizada e sua finalidade declarada. Remediar esse descompasso, impondo limites a estratégias predatórias de extração de dados, é uma tarefa conjunta do direito autoral e da governança da inteligência artificial.