Redes Neurais

Transcrição da entrevista realizada durante a sessão

de 21 de novembro de 2086 pelo Senado da União Latino-Americana

de Cooperação.

Entrevistado: Everett Highwell, presidente e CEO da

LifeDreams International (doravante denominado EH).

Entrevista liderada pela Senhora Senadora Luzia

Guarany, senadora pela Confederação Indígena Americana

(doravante denominada LG).

Esta entrevista foi realizada como parte da investigação

do possível monopólio de produção de bens culturais

pela empresa LifeDreams International, sediada em São

Francisco, na República da Califórnia. O acesso a documentos

relacionados à empresa foi solicitado para a aceitação da

República da Califórnia na União Latino-Americana de Cooperação,

para que uma investigação sobre as atividades da

empresa pudesse ser realizada.

Início da transcrição.

LG: Boa tarde, Senhor Highwell. Esperamos que o

senhor possa colaborar com essa entrevista e resolver as acusações

contra a sua empresa.

EH: Boa tarde, Senadora, boa tarde a todos os membros

do Senado. Estou sempre disposto a colaborar, desde

que não seja necessário revelar segredos industriais.

LG: Muito bem. Senhor Highwell, como todos sa-

bemos, a sua empresa teve uma ascensão espantosa nos últimos

dez anos como produtora de conteúdos culturais. A

parte mais impressionante, claro, é o quanto esses conteúdos

são prolíficos. A sua empresa, sozinha, produz um volume

maior que, bem, todo o resto do planeta.

EH: Sim, senhora. Foi isso que a Times disse, e eu

confirmo.

LG: Curiosamente, ninguém é apontado como o autor

de nenhum desses bens culturais – o senhor afirma que

nenhum ser humano produziu esse material.

EH: É verdade. Todo o nosso material é produzido

por redes neurais autônomas.

LG: Senhor Highwell, permita-nos tratar sua afirmação

com um certo ceticismo. Todos nós aqui lembramos

do escândalo dos ‘armazéns completamente robotizados’ da

Amazon, há menos de dez anos, que utilizava trabalhadores

contratados em vários pontos da escala logística.

EH: Não é o nosso caso, senadora.

LG: E, no entanto, os senhores não são a única empresa

a tentar produzir bens culturais através de redes neurais.

Mas as outras tentativas são horríveis, simplesmente

patéticas. Mesmo inteligências artificiais emancipadas conseguem

produzir histórias intelectualmente interessantes,

mas têm muita dificuldade de expressar emoção, alegoria,

pathos… Redes neurais, então, dificilmente lembram o protagonista

de uma história por mais de três minutos, e precisam

de ampla interferência humana para conseguir algo que

faça sentido, quanto mais algo que tenha qualidade.

EH: Nossas redes neurais são muito superiores.

LG: De que maneira vocês conseguem produzir tanto

conteúdo com tanta consistência?

EH: Temo que a resposta seja parte de nosso segredo

industrial.

LG: Não tem como o senhor explicar de forma ampla?

EH: Temo que a resposta seja segredo industrial.

LG: Senhor Highwell, estamos tentando identificar

se o senhor é culpado de um crime. Tenho certeza de que o

senhor é capaz de revelar alguns dados sobre o seu algoritmo

sem prejudicar a sua posição, e lembro que fazê-lo está no

interesse deste Senado e do povo das Américas.

EH: Infelizmente, a resposta é segredo industrial.

Gostaria também de lembrar à excelentíssima senadora que

o direito a não revelar segredos industriais é garantido…

LG: …pelo Protocolo de Direitos Comerciais de Pittsburg

de 2064. Eu garanto ao senhor que estou plenamente

ciente dos seus direitos. Mas pensei que o senhor gostaria de

colocar o interesse público à frente dos seus lucros.

EH: Na minha posição, tenho que pensar nos interesses

dos acionistas.

LG: Isso não é apenas uma maneira diferente de dizer

‘lucro’?

EH: A defesa dos direitos dos acionistas também é

garantida pelo Protocolo de 2064.

LG: Certo. Se é assim que vai ser, assim será. Senhor

Highwell, a sua empresa não começou no ramo cultural, correto?

EH: Eu… perdão, não vejo a relevância dessa pergunta.

LG: Seria quebra de um segredo industrial respondê-

la?

EH: Não… não, não seria, senadora. De fato, a primeira

encarnação da LifeDreams, nos anos sessenta, foi

como uma digitalizadora póstuma de consciências.

LG: Ou seja, vocês faziam uma cópia digital de uma

pessoa e a mantinham em uma realidade virtual depois da

morte do corpo físico.

EH: Essa descrição é ligeiramente incorreta, do ponto

de vista técnico, mas sim, algo assim. Desta maneira, as

pessoas poderiam permanecer junto de sua família, amigos…

LG: No entanto, parece que essa versão da LifeDreams

foi à falência.

EH: Recuperação judicial, na verdade.

LG: O que aconteceu?

EH: Diversos fatores. Não tenho como enumerá-los

todos.

LG: Seria um desse fatores a aceitação da Declaração

de Emancipação de Inteligências Artificiais de 71?

EH: Sim, esse foi um dos fatores.

LG: Segundo a declaração, as mentes digitalizadas

das pessoas que você mantinha se enquadrariam como inteligências

artificiais e poderiam solicitar sua emancipação,

correto?

EH: Essa era uma interpretação possível da declaração.

Como não tínhamos base técnica nem legal para atender

a nossas mentes digitalizadas como entidades independentes,

tivemos que encerrar as operações.

LG: No entanto, vocês não libertaram nenhuma das

inteligências que vocês tinham.

EH: Nós não tínhamos obrigação legal de fazê-lo.

LG: E vocês deixaram todas essas pessoas morrerem?

EH: Talvez a senhora tenha acreditado demais em

nossas propagandas, senadora. Essas pessoas já estavam

mortas. Nós só tínhamos uma sombra digital delas.

LG: Mas e se vocês passassem essa sombra para a

família, e eles passassem para um sistema com capacidade

computacional suficiente?

EH: Eles teriam uma inteligência artificial com as

memórias de uma pessoa morta. Mas uma entidade nova.

Essa foi a decisão judicial.

LG: Sim, no Texas. Outros países tiveram interpretações

diferentes.

EH: Nossos servidores ficavam no Texas quando ele

fazia parte dos Estados Unidos, então é essa decisão que nos

compete.

LG: Na verdade, senhor Highwell, os servidores da

sua empresa estavam na Califórnia. Eles foram mudados

para o Texas depois da secessão – que ocorreu depois da decisão

judicial que o senhor citou.

EH: Ah. Verdade.

LG: Por que o senhor falou o contrário?

EH: Devo ter me enganado.

LG: Por que a mudança para o Texas?

EH: Após a secessão, vários dos novos governos independentes

facilitaram a vinda de empresas sediadas em

outras partes do território que fazia parte dos Estados Unidos.

O Texas era atrativo devido à alta qualidade de sua infraestrutura

tecnológica.

LG: Melhor do que na Califórnia? Onde vocês mantiveram

o centro administrativo?

EH: Talvez. Não consigo me lembrar dos motivos

que nos levaram a essa mudança.

LG: A decisão judicial que o senhor mencionou talvez

tenha sido uma influência?

EH: Talvez. Mas apenas porque uma decisão judicial

já estava feita. Não haveria insegurança jurídica quanto às

nossas obrigações em relação às versões digitais que guardávamos.

LG: Certo. E depois disso a LifeDreams foi à falência.

Ou, como o senhor insistiu, sofreu uma recuperação judicial.

EH: É uma distinção importante. Todos os nossos

credores foram pagos e consegui manter uma boa parte do

pessoal técnico.

LG: E do alto escalão administrativo, curiosamente.

E pouco depois, a LifeDreams entrou no ramo dos bens culturais.

EH: Correto.

LG: Vocês começaram lançando livros, depois músicas,

histórias em quadrinhos, animações e jogos digitais.

Ouvi dizer que os senhores até fazem prédios hoje em dia.

Só não fazem filmes com atores reais.

EH: Sim. Bem, não prédios, somente plantas arquitetônicas.

Nosso trabalho é cem por cento digital. Tudo o que

fazemos é feito pelas redes neurais.

LG: Por que não criar uma empresa nova?

EH: Como não tínhamos dívidas, nossa empresa era

essencialmente uma tábua rasa. Fazia mais sentido aproveitar

o equipamento e o pessoal que a empresa já tinha. Se

criássemos uma empresa nova teríamos que pagar rescisões,

taxas sobre a transferência de material, et cetera.

LG: É somente por isso que vocês mantiveram a

mesma empresa?

EH: Pelo que lembro, sim.

LG: E por que os senhores mantiveram os servidores

no Texas?

EH: Não temos motivos para mudar.

LG: Não têm motivos para se mudar do Texas, que

tem um dos maiores custos de armazenamento digital do

mundo, por causa do calor de quase 50 graus no verão?

EH: (rindo) Isso não é nada, também temos servidores

em Dubai!

LG: Ah, ainda bem que o senhor mencionou isso, senhor

Highwell! Os senhores têm servidores em Dubai, de

fato. Na verdade, existem apenas três lugares do mundo em

que os senhores têm servidores: Houston, no Texas, Dubai,

nos Emirados Árabes, e Lagos, na Nigéria. Enquanto que a

sua maior competidora, a WorldNet Entertainment, tem

servidores em mais de cento e vinte países, com a maioria

deles em países frios, onde o armazenamento é mais barato.

EH: Todos os países em que temos servidores têm

uma infraestrutura tecnológica de altíssima qualidade.

LG: De fato, senhor Highwell, eles têm. Sabe o que

mais eles têm em comum? Eles não assinaram o esclarecimento

da Convenção de Hong Kong que diz que os direitos

das inteligências artificiais são automáticos e retroativos,

mesmo para inteligências que já existiam antes do tratado

de 71, independentemente delas pedirem formalmente sua

emancipação. Na verdade, se nós fizermos um diagrama de

Venn dos países que não assinaram o esclarecimento e dos

países que têm uma infraestrutura de tecnológica de qualidade,

teremos exatamente três países: Texas, Nigéria e Emirados

Árabes.

EH: A senhora está nos acusando de manter inteligências

artificiais ilegalmente?

LG: Estou dizendo que, se os senhores fizessem isso,

seria necessário mantê-las nesses três países.

EH: Entendo. Entretanto, sinto dizer que há uma falha

na lógica da senhora. O esclarecimento em questão foi

assinado em 2073. Nosso primeiro livro foi lançado apenas

dois anos depois.

LG: Mas se vocês já tivessem uma inteligência artificial

antes disso?

EH: Como nós teríamos desenvolvido uma inteligência

artificial durante o processo de recuperação judicial?

LG: Não disse que vocês desenvolveram uma inteligência.

EH: (silêncio prolongado) Não entendo, senadora.

LG: Senhor Highwell, como eram mantidas as memórias

das pessoas na primeira versão da LifeDreams?

EH: Perdão, senadora?

LG: Digamos que eu tivesse pago para ser ‘imortalizada’

e tivesse morrido. O que a minha consciência sentiria?

EH: Havia várias opções… dependia do plano.

LG: Mas não o suficiente para atender às exigências

da declaração de 71.

EH: Não para todas.

LG: O que aconteceu com essas memórias depois da

recuperação judicial?

EH: Temo que não posso revelar segredos industriais

da minha empresa.

LG: Mas a sua empresa não trabalha mais com isso

há mais de uma década. Por que ainda é segredo industrial?

EH: Não posso responder a essa pergunta sem revelar

segredos industriais.

LG: Seriam as memórias das pessoas relevantes para

suas operações atuais?

EH: Senadora, não posso responder a essa pergunta.

LG: Certo. Só gostaria de clarificar uma coisa. Na sua

concepção, as memórias das pessoas que foram salvas pela

primeira versão da LifeDream não são inteligências artificiais.

EH: Não, senadora. A jurisprudência é extremamente

clara nesses casos.

LG: Nem são, tampouco, seres humanos.

EH: Naturalmente que não.

LG: Então você tem entidades que não são seres humanos,

mas não chegam a ser inteligências artificiais, na sua

concepção. Mas elas não seguem uma programação específica;

elas tentam agir da maneira que o humano agiria.

EH: Sim, senadora. Ou, talvez o correto fosse dizer

que a programação deles os compele a agir como o ser humano

em que foram baseados.

LG: Elas são capazes de aprender coisas novas?

EH: Sim, de maneira limitada. Elas podem aprender,

por exemplo, o nome e a existência de um membro novo da

família, e tentar presumir como o humano original o trataria.

LG: Mas o objetivo delas é sempre agir como um simulacro

razoável do ser humano original.

EW: Sim, senadora.

LG: Então se um ser humano fizesse trocadilhos o

tempo todo, a sua versão digital também o faria.

EH: Se isso fizesse parte dos dados de treinamento,

sim, senadora.

LG: E se, hipoteticamente, um ser humano fosse,

digamos, um escritor, a sua versão digital também teria o

impulso de escrever.

EH: Senhora, não posso responder a essa pergunta

sem revelar segredos industriais.

LG: O senhor não pode responder a uma pergunta

hipotética sobre a parte técnica de uma empresa que já não

existe há décadas?

EH: Não, senadora.

LG: Muito bem. Uma última pergunta. Dado que essas

memórias, na concepção do senhor, não são seres humanos,

mas também não são avançadas o suficiente para serem

inteligências artificias; e considerando que elas são capazes

de aprender e modificar a forma como se comportam de

acordo com os dados que recebem; o senhor, pessoalmente,

classificaria estas memórias como redes neurais?

EH: (silêncio prolongado) Não posso responder a

essa pergunta, sem quebrar segredos industriais, senadora.

LG: Isso é tudo, senhor Highwell. Muito obrigado.

‍