Princípios importantes
- O sistema de IA chamado DALL-E2 parece ter criado seu próprio sistema de comunicação escrita.
- Alguns especialistas dizem que a linguagem aparente pode ser apenas rabiscos.
- É um exemplo de como é difícil interpretar os resultados de sistemas avançados de IA.
Parece que a Inteligência Artificial (IA) desenvolveu sua própria linguagem, mas alguns especialistas são céticos quanto à afirmação.
O sistema de IA de texto para imagem da OpenAI chamado DALL-E2 parece ter criado seu próprio sistema de comunicação escrita. É um exemplo de como é difícil interpretar os resultados de sistemas avançados de IA.
"Devido ao tamanho e profundidade de modelos grandes, é muito difícil explicar o comportamento do modelo", disse Teresa O'Neill, diretora de arquitetura de soluções para compreensão de linguagem natural da iMerit, em entrevista por e-mail. "Este é um dos principais desafios e, em alguns casos, questões éticas com modelos cada vez mais poderosos. Se não podemos explicar por que eles se comportam dessa forma, podemos prever seu comportamento ou mantê-lo alinhado com nossas normas e expectativas?"
Conversas de IA
O estudante de Ciência da Computação Giannis Daras observou recentemente que o sistema DALLE-2, que cria imagens com base na entrada de texto, retornaria palavras sem sentido como texto sob certas circunstâncias.
"Uma limitação conhecida do DALLE-2 é que ele luta com o texto", escreveu ele em um artigo publicado no servidor de pré-impressão Arxiv. "Por exemplo, prompts de texto como: 'Uma imagem da palavra avião' geralmente levam a imagens geradas que retratam texto sem sentido."
Mas, escreveu Daras, pode haver um método por trás da aparente bobagem. “Descobrimos que esse texto produzido não é aleatório, mas revela um vocabulário oculto que o modelo parece ter desenvolvido internamente”, continuou. "Por exemplo, quando alimentado com este texto sem sentido, o modelo frequentemente produz aviões."
Em seu tweet, Daras apontou que quando o DALLE-2 foi solicitado a legendar uma conversa entre dois fazendeiros, ele os mostrou conversando, mas os balões de fala estavam cheios do que pareciam palavras sem sentido. Mas Daras descobriu que as palavras pareciam ter seu próprio significado para a IA: os fazendeiros estavam falando sobre vegetais e pássaros.
Nicola Davolio, CEO da empresa de tecnologia Hupry, que trabalha com IA, explicou à Lifewire em uma entrevista por e-mail que a linguagem é baseada em símbolos que o sistema DALL-E2 aprendeu a associar a certos conceitos. Por exemplo, o símbolo de "cachorro" pode estar relacionado à imagem de um cachorro, enquanto o símbolo de "gato" pode estar associado à imagem de um gato. O DALL-E2 criou sua linguagem porque permite que ele se comunique de forma mais eficaz com outros sistemas de IA.
Quebra-cabeças como o vocabulário aparentemente oculto de DALL-E2 são divertidos de se lutar, mas também destacam questões mais pesadas…
"A linguagem é composta de símbolos que parecem hieróglifos egípcios e não parecem ter nenhum significado específico", acrescentou. "Os símbolos provavelmente não têm sentido para os humanos, mas fazem todo o sentido para o sistema de IA, já que foi treinado em milhões de imagens."
Os pesquisadores acreditam que o sistema de IA criou a linguagem para ajudá-lo a entender melhor as relações entre imagens e palavras, disse Davolio.
"Eles não sabem ao certo por que o sistema de IA desenvolveu sua linguagem, mas suspeitam que possa ter algo a ver com a forma como estava aprendendo a criar imagens", acrescentou Davolio. "É possível que o sistema de IA tenha desenvolvido sua linguagem para tornar a comunicação entre diferentes partes da rede mais eficiente."
Mistérios da IA
DALL-E2 não é o único sistema de IA que desenvolveu sua linguagem interna, apontou Davolio. Em 2017, o sistema AutoML do Google criou uma nova forma de arquitetura neural chamada 'rede filha' depois de decidir a melhor forma de concluir uma determinada tarefa. Esta rede infantil era incapaz de ser interpretada por seus criadores humanos.
"Esses exemplos são apenas alguns casos em que os sistemas de IA desenvolveram maneiras de fazer coisas que não podemos explicar", disse Davolio. "É um fenômeno emergente que é fascinante e alarmante em igual medida. À medida que os sistemas de IA se tornam mais complexos e autônomos, podemos nos encontrar cada vez mais na posição de não entender como eles funcionam."
O'Neill disse que não acha que o DALL-E2 está criando sua própria linguagem. Em vez disso, ela disse que a razão para a aparente invenção linguística é provavelmente um pouco mais prosaica.
"Uma explicação plausível é uma chance aleatória - em um modelo tão grande, um pouco da Lei de Murphy pode se aplicar: se uma coisa estranha pode acontecer, provavelmente acontecerá", acrescentou O'Neill. Outra possibilidade sugerida pelo analista de pesquisa Benjamin Hilton em um tópico do Twitter discutindo as descobertas de Daras é que a forma da frase "apoploe vesrreaitais" imita a forma de um nome latino para um animal. Assim, o sistema gerou uma nova ordem de Aves, acrescentou O'Neill.
"Quebra-cabeças como o vocabulário aparentemente oculto de DALL-E2 são divertidos de se lutar, mas também destacam questões mais pesadas sobre o risco, preconceito e ética no comportamento muitas vezes inescrutável de grandes modelos ", disse O'Neill.
