 |
Gênio Rebelde — Livro de Tara Abrahan (2016) |
Na imagem abaixo você encontra um cronograma básico da evolução do modelo de redes neurais começando em 1943 até 2010. E aqui vamos falar sobre o primeiro a contribuir nesse sentido.
Seria impossível falar o que são redes neurais de computador sem mencionar o grande neurocientista Warren Sturgis MacCulloch, nascido em 16 de novembro de 1898 e falecido em 24 de setembro de 1969
Foi um americano a frente do seu tempo, fundador do que chamamos hoje na ciência como “cibernética” e também o pioneiro no desenvolvimento do primeiro modelo de neurônio artificial.
Logo podemos notar que o modelo GPT que conhecemos hoje e os modelos que criam imagens ou músicas possuem neurônios artificiais baseados nos trabalhos de MacCulloch há mais de 80 anos. Importante destacar o termo “artificial” que também pode ser entendido aqui como “virtual”, ou seja, os cientistas se apropriaram do cérebro animal, uma solução biológica que evoluiu durante milhões de anos para o processamento de informação para enfim repetir esse mesmo mecanismo em um modelo matemático que também foi capaz de perceber padrões nas informações e repetir isso como um produto semelhante, como disse, que pode ser um texto, uma música ou uma imagem.
Na verdade MacCulloch era especializado em diversas ciências. Além da neurociência, ele também era especialista em teologia, filosofia, psicologia, física e matemática, mas também acabou por fazer pesquisas sobre computação assim que esse setor despertou a partir de 1950.
Dentre suas contribuições científicas podemos destacar pesquisas importantes no entendimento das estruturas e funções neurais, psiquiatria biológica, guerra química, biologia espacial, conselheiro do governo e até mesmo contribuiu com pesquisas para o exército dos EUA.
Mas em que ponto MacCulloch contribuiu diretamente com as redes neurais dos computadores?
Redes Neurais Artificiais: McCulloch é mais conhecido por sua colaboração com Walter Pitts em 1943, onde eles propuseram o modelo formal de neurônios artificiais, conhecido como “Modelo de McCulloch-Pitts”. Este modelo, inspirado no funcionamento do cérebro humano, lançou as bases para o desenvolvimento das redes neurais artificiais modernas, que são amplamente utilizadas em áreas como aprendizado de máquina, inteligência artificial e visão computacional.
Teoria da Computação: McCulloch também contribuiu para a teoria da computação através de seu trabalho em lógica matemática e autômatos celulares. Ele explorou a ideia de usar autômatos para modelar o comportamento do cérebro e do sistema nervoso, antecipando conceitos importantes na computação quântica e na computação biológica.
O modelo de MacCulloch é binário e quando o desenvolveu não havia ‘backpropagation” onde o neurônio pudesse aprender com os dados de entrada, mas era equivalente às portas lógicas, ou seja, poderia liberar a informação “0 ou 1”.
Além disso, enquanto trabalhava no Laboratório de Pesquisa de Eletrônia do MIT em 1952 desenvolvendo modelagem de redes neurais, sua equipe percebeu que o olho do sapo não envia imagens ao cérebro, mas informações que são organizadas e interpretadas depois.
Ao criar um modelo matemático compacto que relacionou mente e cérebro estabelecendo assim os princípios básicos da cibernética e acabou sendo o primeiro presidente eleito da Sociedade Americana da Cibernética em 1964.
Mas do que se trata o principal trabalho de MacCulloch que mais contribuiu para as RN?
Estamos falando do seu artigo científico publicado na revista de biofísica matemática chamado de “Um Cálculo Lógico das Ideias Inerentes à Atividade do Sistema Nervoso” publicado em 1943 num momento da 2ª G.M. e naquela época havia uma intensa pesquisa em neurociência e computação. Se baseou em trabalhos anteriores como Alan Turing (Vídeo aqui no canal) e Norbert Wiener que exploravam as conexões entre o cérebro humano e as máquinas.
Neste trabalho MacCulloch e o co-autor Walter Pitts demonstram que um neurônio biológico pode ser modelado através de portas lógicas que satisfaz as condições de funcionamento da atividade neuronal.
O assunto sobre redes neurais estão muito mais avançados atualmente chegando a diversas estruturas neurais avançadas, cada uma com uma eficiencia diferente e com propósitos diferentes:
Neste vídeo antigo de 1969 vocês terão a honra de conhecer essa figura cérebre de forma mais pessoal e confesso que fiquei indignado que semelhante cientista não tenha tido a devida fama nos dias de hoje, principalmente por ter desenvolvido um modelo matemático para um neurônio, que é a unidade fundamental das redes neurais da inteligência artificial.
Entrevistado por Percy Saltzman em 1969, na ocasião com 70 anos. Curiosamente foi ano em que MacCulloch faleceu. Provavelmente uma das únicas aparições em vídeo e provavelmente a última dessa figura. Felizmente esse vídeo foi milagrosamente preservado na íntegra uma vez que a maioria das películas dessa emissora canadense se perdeu com o tempo.
Essa entrevista foi realizada por um programa de TV chamado de “The Way It Is” e recebeu prêmios na época como melhor série televisiva.
Realmente eu não entendi o motivo da introdução do programa informar “The Day It Is”, sendo que não há ocorrências para esse nome na internet. “Uma imagem vale mais que mil palavras”, e curiosamente há mas há “mil palavras” na internet dizendo “Way” invés de “Day”, então a dúvida fica no ar.
Nessa entrevista, o entrevistador confere tantas especializações à MacCulloch que eu fiquei impressionado. Se realmente possuir domínio em todas essas áreas, então é um pesar que seu nome quase não é mencionado em meio a cultura pop atual que abordam muito sobre redes neurais. Então essas aqui são as especialidades segundo o entrevistador:
Psicólogo, psiquiatra, neurofisiologista, médico, neurocirurgião, filósofo, professor, poeta, engenheiro e matemático.
(10) Warren Sturgis McCulloch Interview — YouTube
The Day Its Is — Canal 6 — Rede de Televisão Canadense (Toronto — 1969)
1969 → MacCulloch era Chefe do departamento de cibernética do MIT
Através desse vídeo é possível saber algumas peculiaridades interessantes de MacCulloch:
Ele costumava usar um casaco longo estilo Matrix, se bem que antes do filme obviamente, além de botas seladas com pregos, o que já era meio vintage pra época (1969). Também gostava muito de sorvetes e uísque.
Tem 17 crianças adotadas que raramente dormiam antes das 4h e isso pode confundir muitos especialistas. Pudera, o cara era psicólogo e psiquiatra acho que já sabiam que era saudável ir dormir cedo. Provavelmente MacCulloch ia dormir muito tarde e talvez dormia pouco, e como ainda assim (ou talvez por isso) ele conseguiu ser um grande conhecedor, então tavez não via o fato de dormir tarde com algum impacto negativo no aprendizado ou na saúde mental dele e dos seus filhos.
Um aborda os neurônios como “portas lógicas” usando álgebra booleana.
Outro sobre como o circuito nervoso poderia ser usado na percepção de universais.
Universais → Padrões de atividade neural quando indivíduos diferentes fazem a mesma coisa.
O que é um número para o homem e o que é um homem para que ele saiba o que é um número?
Porque a mente está na cabeça?
O que o olho do sapo diz ao cérebro do sapo?
O que as máquinas pensam e querem? (muito ousado pra época).
Ao final até cita alguns poemas e sonetos próprios
(sempre bom explorar o cérebro nas exatas e artes)
Ciberneticista → Cientista da cibernética
Epistemologia Experimental → Investigar os princípios científicos através da experimentação com a ajuda de métodos empíricos, ou seja, do “baseado no que já sei” e da filosofia.
“Um grande cientista descobridor cria questões fundamentais e se prende a elas até compreendê-las”
A dificuldade em persistir descobrindo está na disposição em advinhar as coisas, a reconhecer quando está errado, ser humilde com os fatos, ou seja, o que você quer que seja um fenômeno e o que ele realmente é através dos fatos. E aceitar que pode ser arrogante com os outros, mas deve ser se a verdade vier de fatos.
Infância → Seu pai, viva como se fosse alguém importante.
14 anos → Teorizou o átomo tetraédico. Não foi o primeiro, mas ele tinha apenas 14 anos.
“Se você quer descobrir algo, precisa fazer uma imersão no objeto do problema (cérebro) e fazer medições”
Acreditava que algumas pessoas eram mais inteligentes que outras e isso era determinado na genética. O treinamento ajudava, mas numa análise justa duas pessoas com cérebros diferentes com o mesmo treinamento tem eficiências diferentes.
Afirmava ter QI médio de 140 pontos (QI médio no mundo = 100. 1969 era alguns pontos a menos).
Se destacou como cientista renomado devio a sua dedicação intensa em aprender. Dormia pouco.
Associava ao sistema nervoso estimulado acima do normal entre as pessoas. Preso a problemas teóricos e não práticos como na maioria das pessoas que dormem pouco.
Levou 40 anos para compreender a Teoria dos Nós e sua estrutura matemática complexa.
O pouco que dormia, ainda assim não impedia de pensar, muitas vezes acordava com uma resposta, que poderia ser uma solução, ou apenas um devaneio.
Cientistas e pessoas superinteligentes não são adequados para governar, porque governar requer controlar pessoas. Cientistas estão preocupados em entender como o mundo funciona. Era incapaz de comandar uma equipe com muitas pessoas.
Governantes movem pessoas, cientistas movem coisas, matérias e descobrir como funciona. Cientistas podem se envolver como políticos, mas não pode contribuir muito como tal, apenas como cidadão.
Na década de 60, cientistas atômicos tinham uma influência no governo, mas segundo MacCulloch faziam isso de forma errada.
Pessoas que pensam muito, costumam mover a língua e tremular os dedos demasiadamente. Prender a língua nos dentes e contar ao mesmo tempo costuma reduzir a capacidade de raciocínio inicialmente até o cérebro se adaptar.
Crianças aprendem melhor fazendo movimentos, manuseando objetos e não parado lendo um livro, mesmo que esse tenha ilustrações. Antigos filósofos discutiam caminhando. Não consegue ficar parado escrevendo muito tempo. Tem que caminhar pelo escritório ou pela casa.
Embora o cérebro do homem é maior, devido ao seu corpo ser maior, não significa que é mais inteligente que a mulher. Desde que o homo sapiens evoluiu com o cérebro, o gênero não tem relação com a inteligência.
Com a idade começam a morrer neurônios. Afirmava que provavelmente já havia perdido de 10 a 20% do seu próprio cérebro. Aos 70 anos estava perdendo 100 mil neurônios por dia.
Você começa a perder neurônios levemente aos 16 anos, nessa idade fica claro o contraste de perda mais que num idoso, porque são cérebros jovens que constrastam bem com pequenos pontos de falta de neurônios. Da Vince, Einstein, mesmo que gênios até a velhice também tiveram baixa de neurônios.
A matéria cerebral não se regenara, uma vez perdida, não nasce novamente.
O cérebro perde mais neurônios (apoptose) durante a vida. Cerca de metade dos neurônios são eliminados pelo organismo durante a fase fetal. O cérebro aumenta de tamanho, pode parecer contraditório, mas os neurônios remanescente crescem criando novas conexões, por isso a massa cerebral aumenta, porém a quantidade de neurônios vai diminuindo. Não significa que a pessoa vai perdendo a capacidade cognitiva, a apoptose permite amadurecer o cérebro para eliminar neurônios desnecessários. Salvo se a apoptose for gerada por uma doença, ela é natural e benéfica.
A maioria dos distúrbios mentais são dificuldades hereditárias no metabolismo do cérebro que não funciona quimicamente direito.
Com relação à aritmética, já havia cérebros artificiais (computadores). Se computadores poderiam ter algo próximo à alma, ele preferia manter isso de fora. Se ao menos se aproximarão da mente humana é bom lembrar que máquinas usam linguagens que são números. Portanto eram péssimos em perceber as coisas. Não tinham uma linguagem natural compatível com a humana, não conseguiam fazer um modelo no mundo ao redor, eram péssimos.
Afirmava que um computador já era o segundo melhor do mundo no xadrez e dentro de seis anos seria imbatível. (Deep Blue, 1977).
Entrevistador: Mas nunca poderiam desenhar um retrato do estrevistado (MacCulloch).
MacCulloch: Poderá sim, porque não. Poderão produzir até música boa um dia, se aprendermos o suficiente de nossa língua materna. Só não temos capacidade no momento. As linguagens de computador não tem contexto, e a linguagem natural o computador não pode(naquele momento) entender ou reproduzir.
Esperava que os jovens com os quais trabalhava seriam o seu legado. Mais de 120 colaboradores jovens, sendo 40 que se destacaram como ótimos cientistas. Holanda haviam 7 deles.
MacCulloch afirmava que poderia “morrer amanhã” satisfeito com seu legado (curiosamente morreu meses depois de ataque cardíaco)
Principal trabalho de MacCulloch e Pitts — 1943
A LOGICAL CALCULUS OF THE IDEAS IMMANENT IN NERVOUS ACTIVITY*
PII: S0092–8240(05)80006–0 (cmu.edu)
Warren S. McCulloch — The Cybernetics Thought Collective: A History of Science and Technology Portal Project — Biblioteca U of I (illinois.edu)
Como o olho de um sapo nos roubou a obra-prima de IA de um gênio | Novo Cientista (newscientist.com)
Warren Sturgis McCulloch — Wikipédia, a enciclopédia livre (wikipedia.org)
REDES NEURAIS ARTIFICIAIS. Warren McCulloch e Walter Pitts criaram… | by Augusto Pinheiro | Medium
Fonte do texto: https://medium.com/@regis1981/warren-macculloch-e-o-primeiro-modelo-de-neur%C3%B4nio-em-1943-2d1bfcdbc8be
Nenhum comentário:
Postar um comentário