O processo de aprender e o diagrama de Shannon

No artigo que escreveu em 1948, Shannon sintetiza tudo que temos visto, no diagrama que reproduzo acima (exatamente como ele desenhou).

Qualquer sistema de comunicação deve conter esses elementos:

A fonte da informação é qualquer coisa – pessoa/máquina/algoritmo etc.. que seleciona a mensagem que se quer enviar; ela pode ser simplesmente uma sequência de caracteres (como no telégrafo),ou pode ser expressa de muitas maneiras mais sofisticadas (até como funções matemáticas).
O transmissor opera sobre a mensagem-codifica a mensagem – para produzir um sinal. Um telefone converte a pressão sonora em corrente elétrica. Um telégrafo codifica caracteres em pontos, traços e espaços.
O canal é o meio utilizado para transmitir o sinal (um fio de cobre,uma fibra ótica, o ar atmosférico…).
O receptor inverte o que o transmissor fez. Decodifica a mensagem, ou a reconstrói a partir do sinal enviado.
O destinatário é a pessoa ou a coisa que recebe o sinal na outra extremidade.

No caso da fala, por exemplo, os elementos acima são o cérebro do orador, suas cordas vocais, o ar, o ouvido do destinatário e o cérebro do destinatário.

Repare caixinha rotulada de “fonte de ruído”. Isso abrange tudo o que corrompe o sinal de forma previsível ou imprevisível: adições indesejáveis, erros, distúrbios aleatórios, estática atmosférica, interferência, distorção”.A caixinha “fonte de ruído” no diagrama é a representação da entropia.

Este diagrama é a definição de informação da qual nós precisamos para fazer acontecerem coisas interessantes no mundo. O diagrama em si é que é a definição, não há uma definição verbal. Só o que existe é um esquema operacional – uma planta de engenharia, para guia-lo na construção.

Tudo o que importa para nós está na “planta de engenharia” acima porque ela define o que fazer para obter resultados práticos. Selecione uma mensagem, codifique-a, transmita por um canal adequado cuidando para minimizar o ruído e escolhendo a linguagem e o canal certos, decodifique a mensagem para que o receptor possa receber o que foi selecionado.

O diagrama de Shannon ilustra uma sequência de passos que podemos facilmente transformar num algoritmo: basta introduzirmos um loop de volta do ponto que recebe a mensagem para o ponto onde a mensagem inicial foi selecionada, e recomeçar. Do destinatário de volta para o emissor da mensagem, daí de volta etc…

Parece trivial, pois qualquer diálogo acontece assim, mas esqueça conversações entre humanos e pense numa máquina ou dispositivo de algum tipo, capaz de selecionar sinais cada vez melhores à medida que dialoga com sinais emitidos por humanos ou não. Aqui está o centro da ideia que permite a construção de inteligências artificiais.

Foi fazendo algo assim que o Google meio que “tomou conta da internet” (se não literalmente, pelo menos conceitualmente) e tirou o campo da inteligência artificial da letargia em que se encontrava há décadas. O Google é o grande experimento da ciência da informação a que dedicaremos mais espaço adiante.

Na verdade (pense nisso), aprendemos qualquer coisa por meio de um algoritmo que funciona assim: realimentamos continuamente o processo com o resultado de cada etapa anterior e assim vamos selecionando “mensagens” cada vez “melhores”. Do ponto A para o ponto B, de volta a A, de volta a B etc.. Aprendemos a andar assim, aprendemos a falar uma língua assim, aprendemos a dirigir assim, aprendemos qualquer coisa assim. Automatizamos a competência em alguma coisa a partir de vários loops de feedback nos quais alimentamos informação de volta para nós mesmos via nossos cérebros, até chegarmos a uma performance satisfatória.

O problema desse tipo humano de processo de aprendizado é que ele é lento- limitado pela capacidade de processamento do cérebro. Mas imagine que você substitua o cérebro por uma AI – uma supermente. Para que aprender um novo idioma? Você fala na sua língua e a tradução para o idioma de seu interlocutor é feita instantaneamente por um algoritmo em seu smartphone que também reconstrói a resposta que lhe é dada para seu idioma. Para que aprender a dirigir? Por que tenho de cair e levantar tantas vezes para aprender a andar? (admito que aqui possa haver vantagens em deixar as coisas como estão, mas a possibilidade existe).
(continua)