#52 inteligência artificial: o monstro de frankenstein do nosso tempo
sobre a atuação das empresas e a regulamentação no Brasil | tempo de leitura: 6 minutos
na edição #50 da makers gonna make, um leitor perguntou se tinha algum assunto que eu gostaria de falar sobre, mas ainda não havia feito por sentir que precisava de uma dedicação especial. sim, tinha: inteligência artificial. quando todo mundo está falando sobre a mesma coisa eu tendo a olhar pra outro lado, porque em geral não gosto de contribuir pro ciclo da internet de falar-por-falar. mas duas coisas que aconteceram em junho me levaram a escrever o ensaio a seguir: eu tive a oportunidade de produzir um texto pra uma matéria na faculdade, ou seja, com orientação de uma professora (obrigada, Gianna <3); e a Flora da Recorte me convidou para escrever pra revista, um processo que envolve também uma revisão da parte deles. nesse cenário, me senti bastante confortável em pesquisar e escrever sobre inteligência artificial pelo viés da regulamentação de seu uso, uma questão que eu sinto que é bem menos debatida do que a adesão das ferramentas no dia a dia do trabalho criativo. e claro, quis escrever do meu jeito: fazendo um paralelo com Frankenstein de Mary Shelley, meu livro preferido. vamos?
🧟♂️ A responsabilidade de um criador
“Como te atreves a brincar assim com a vida? Cumpre tua obrigação comigo e cumprirei a minha contigo e com o restante da humanidade.”
Frankenstein (1818)
Mary Shelley tinha apenas 20 anos quando publicou pela primeira vez o conto que viria a se tornar um dos mais emblemáticos cautionary tales da literatura: Frankenstein. A influência dessa narrativa no mundo do horror e da ficção científica tem garantido uma vida longuíssima a seus personagens, sobretudo ao monstro, que se cristalizou de tal forma que muitos acreditam que é ele quem dá título ao livro, mas não. O protagonista de Mary Shelley é Victor Frankenstein, um jovem cientista. Sua criatura nem sequer recebe um nome. No cinema, a caracterização do monstro – com pele verde e parafusos no corpo – é tão icônica que foi desdobrada em uma figura da cultura pop. Em várias referências, o monstro esverdeado aparece sozinho – como se pudesse ser separado, isolado, de seu criador, o cientista. Mas não pode.
Para os leitores que não estão familiarizados com a obra, pode ser que a moral do livro soe como: “não devemos interferir nas leis naturais”, “não devemos brincar com a vida e a morte”, ou ainda, que “há um ponto a partir do qual a ciência e a tecnologia não devem passar”. O filósofo Bruno Latour afirmou, em seu ensaio “Love your monsters”, publicado em 2011 no site do centro de pesquisa The Break Through, que “o crime de Dr. Frankenstein não foi ter inventado uma criatura a partir da combinação de arrogância e alta tecnologia, mas o fato de que ele a abandonou à própria sorte”. Sozinha, descuidada e rejeitada, a criatura sem nome decide tratar a humanidade da forma como foi tratada: com violência e sem misericórdia. Isso motiva uma série de assassinatos e eventos destrutivos, que se tornam o ponto principal da narrativa de Mary Shelley justamente pela responsabilidade e culpa de Victor Frankenstein.
Mesmo que a ciência e a tecnologia sejam vistas apenas como meios para um fim, criadores têm a obrigação de cuidar de suas criaturas – além de aceitar que a inovação tecnológica sempre terá consequências – e desenvolver mecanismos para lidar com elas.
Nossa sociedade lida até hoje com os dilemas que vêm da criação, sobretudo com os avanços tecnológicos de alto impacto na sociedade. Nos últimos anos, temos assistido a – me desculpe o clichê – uma verdadeira revolução tecnológica com o avanço das Inteligências Artificiais (IA); algo comparável à adoção em massa dos computadores, que alterou significativamente a maneira como as pessoas trabalham e se relacionam socialmente. Apesar do conceito de IA ter mais de 50 anos, ele abarca uma infinidade de ferramentas e funções. O que têm causado mais buzz recentemente são as IA generativas, não apenas pelo que são capazes de fazer, mas também por estarem se tornando mais e mais acessíveis para o público geral. Aplicações geradoras de imagem (como Midjourney e Dall-E) e de texto (como o ChatGPT) são em sua maioria gratuitas e de acesso relativamente descomplicado, uma vez que não requerem nenhuma habilidade específica de programação e respondem a comandos textuais simples – facilidade que impulsiona sua utilização, seja no ambiente de trabalho, seja por curiosidade.
Ainda é difícil prever as consequências de longo prazo dessa transformação, e as previsões variam em nível de alarmismo: de um futuro livre de tarefas repetitivas e enfadonhas à extinção da humanidade. Mas o fato é que essas tecnologias já foram lançadas e, suas sucessoras, talvez ainda mais potentes e transformadoras, estão em desenvolvimento. A inovação e o avanço da ciência são difíceis de evitar – como nos ensina Frankenstein. Quando um limite da natureza é ultrapassado, pode ser um desafio encontrar o caminho de volta. Mas o que influencia no impacto que isso vai causar nos outros não é se uma tecnologia existe, mas como lidamos com ela. Em um cenário em que Victor Frankenstein não tivesse abandonado sua criatura à própria sorte, mas sim olhado por ela e a tratado com cautela, talvez não haveria destruição e morte.
Quando aplicamos essa lógica ao nosso atual contexto tecnológico, surge a pergunta: qual é a responsabilidade dos criadores de ferramentas generativas?
⚠️ O ensaio completo não vai caber nesse e-mail; mas adianto que vou falar sobre a OpenAI (ChatGPT e Dall-E) e Midjourney (Midjourney), além da atuação de outros setores da sociedade (governos estrangeiros e governo brasileiro, padrões da indústria, atuação de designers, desenvolvedores e engenheiros, etc). Que tal continuar a leitura no site da revista? :)
📖 Zine nova na área :)
O ensaio “A respirabilidade de um criador” vai virar zine, um presente exclusivo para os apoiadores da newsletter. Vou deixar um spoiler do primeiro protótipo que criei - a expectativa é que fique pronta até o fim do mês pra envio :)
Contribua através do apoia.se para receber essa e outras zines da newsletter, além de um e-mail extra mensal. Tá tudo bem explicadinho por lá. E se você estiver se sentindo especialmente generoso, me dê um livro de presente :)
obrigada por ler até aqui :) pra próxima edição estou preparando algo diferente: uma entrevista com uma criadora muito incrível! será que vai sair? espero que sim heheh fique a vontade para responder esse e-mail me contando o que achou do artigo - espero que esse possa sempre ser um espaço de troca. e se você gosta da makers gonna make, que tal compartilhar com alguém?
muito boa reflexão.
aqui na gringa eu li alguns artigos (pra escrever um ensaio sobre Frankestein na faculdade) que relacionam a criação do monstro, e seu despertar com uma carga de energia elétrica, com a criação de robôs. ainda que o monstro da Shelley seja feito de carne, há uma correlação entre morte e matéria inanimada que segura bem o argumento desse paralelo.
sempre bom ler a makers :)