Link para o artigo e mais detalhes aqui.

• Mesclar humanos com tecnologia poderia fornecer sensibilidade para fazer considerações morais, mas a tecnologia que interfaceia diretamente com o humano não pode interferir com a autonomia humana.

• Parece que a maioria das pessoas ainda não se sente à vontade em deixar 100% do controle de certos processos e sistemas vitais à máquina, como por exemplo, o metrô de SP (e de outras partes do mundo) tem um operador na janela para supervisionar o trajeto. Mas teoricamente o metrô é capaz de operar sozinho sem o operador, a presença humana se fez necessária mais para passar uma imagem de confiança do serviço aos usuários.

• Claro que não se pode ir botando totalmente o controle nas máquinas, há limites para atribuir faculdades que as máquinas não têm. Para deixar claro, um exemplo, na época da Guerra Fria, houve vários exemplos de falsos positivos nos radares que supervisionavam o espaço aéreo. Já imaginou o que aconteceria se a última palavra para lançar uma bomba nuclear fosse dada aos computadores? Os operadores humanos dos radares sempre esperavam um tempo depois do falso positivo, para esperar por confirmação de terceiros. Ao que parece, prudência ainda é uma boa característica humana…

• Uma peça de teatro chamada R.U.R., escrita por Karel Capek deu origem à palavra robota, que em tcheco, significa servo. Não é lá grande coisa como livro, mas vale pelo significado histórico.

• Ter conhecimento de como a mente funciona não implica que devemos construir algo próximo disso. Para entender isso, pense nos conhecimentos do vôo. Sabemos como os pássaros voam, mas não construímos aviões que batem asas, certo? Não precisamos construir uma mente artificial baseada estritamente nos moldes de uma inteligência humana.

Esses são alguns dos pontos abordados pelo livro, interessante para quem quiser se aprofundar no estudo da moralidade das máquinas. Vale a pena para quem é da área ou mesmo curioso. E também serve para evitar uma espécie de Skynet no futuro…

Nos primórdios da IA, muitos consideravam que um computador saber jogar xadrez era um bom sinal de avanço na área. Na verdade, não é bem assim, porque o computador não joga xadrez da mesma forma que nós jogamos. Assim que movemos a primeira peça, como o peão, há um certo número de possibilidades de contra-movimentos para aquela peça (só não especifiquei o número porque cada peça tem regras de movimento diferentes). Nós, humanos, também pensamos nas possibilidades de movimentos futuros, mas apenas em uma janela estreita de possibilidades (até umas 5 jogadas adiante, se bem que enxadristas talentosos podem pensar em mais jogadas), enquanto que o computador consegue calcular fácil, em segundos ou minutos, milhares de jogadas adiante para cada possível peça. O fato de calcular rapidamente as probabilidades de movimentos e plotá-las numa árvore de possibilidades com essa aqui não significa que o computador seja inteligente ou apto a passar num, digamos, teste de Turing. Que é apenas especializado em jogar xadrez, e nada mais. É um tipo de savant de silício, por assim dizer. Mas talvez isso mude no futuro…

De qualquer modo, o estudo de supercomputadores para jogar xadrez é bem útil, em termos de processamento de alto volume de dados em pouco tempo. E indo para o objetivo principal do post, que era o de compartilhar os links que achei no livro “Moral Machines“, para quem curte um pouco de história e curiosidades:

The triumphant teamwork of humans and computers – Descrevendo a interação dos humanos com os computadores pelo xadrez e técnicas que humanos desenvolveram para derrotar os programas, por causa de alguns “vícios computacionais” em xadrez.

Multimedia Report by Frederic Friedel: Garry Kasparov vs. Deep Blue – Uma espécie de diário, descrevendo os dias do confronto em 1997.

Deep Blue – Overview – Site oficial do confronto de 1997 (meio velhinho, uma repaginada seria boa hein?).

E para quem quiser saber de outros jogos de xadrez entre humanos e computadores, a Wikipedia tem uma listagem.

PS: Não sou boa jogadora de xadrez, não consegui até agora ganhar do computador, exceto se ele joga no modo aleatório ou no nível fácil

Skynet Trio

Fonte da imagem: Why No Ally?

Quadrocopters can now fly through thrown hoops – Um mini-helicóptero capaz de atravessar arcos sem ajuda humana. Está na cara que são os futuros pilotos daquelas máquinas voadoras da série de filmes Terminator.

Google Cars Drive Themselves – Parece que o investimento maciço do Google em IA já está dando frutos com um carro que dirige sozinho.

Microsoft Kinect – O Kinect sabe e vai entender tudo o que você gesticular e falar na frente dele =O Isso é que é aprendizado de máquina potente! (tem que funcionar em ambientes reais, com variações de iluminação e de tamanho da sala, além de reconhecer os jogadores).

Bom, pelo visto, já está na hora de dizermos “All hail our new robotic overlords!”…

Foi nessa coletânea que fiquei curiosa sobre um dos autores, Rudy Rucker, um matemático e cientista da computação que também escreveu alguns livros de ficção. Descobri que tem uma tetralogia escrita por ele disponível gratuitamente no site ManyBooks (de maneira legal). Estou no terceiro livro, e é interessante, resumindo, é sobre a história das relações entre os humanos e entre máquinas chamadas boppers (que são IAs que evoluem), em uma determinada época do século 21 e tendo como cenários a Terra e a Lua.

O que tenho notado nesses livros e em outras obras de ficção científica é o medo das máquinas suplantarem os humanos, na maioria das tramas, de maneira hostil e direta (como em Terminator) ou de maneira bem sutil, de modo que as intenções reais das inteligências artificiais são só descobertas bem depois (até ia mencionar algumas obras aqui, mas vai que seja spoiler involuntário). É engraçado ver que em boa parte das histórias que vi, os escritores usam como recurso, para manter as máquinas sob controle, simplesmente mencionando as leis da robótica de Asimov.

Só há alguns anos atrás que os cientistas começaram a levar a sério a questão de imbuir nas máquinas algo parecido à moralidade humana. Não vou dizer que estejam tentando aplicar essas leis de Asimov na prática, porque codificar explicitamente essas leis não é algo viável e prático no momento. O máximo que podem fazer é tentar construir agentes morais, e ver como a moralidade poderia evoluir artificialmente. Esse é um ramo recente da inteligência artificial, chamado de moralidade das máquinas.

É uma área bem interessante e eu bem que gostaria de ver alguma obra de ficção que explorasse esse aspecto, para fugir do tradicional clichê de mencionar simplesmente as leis de Asimov. De maneira grosseira, até se pode dizer que essas leis poderiam resumir a moralidade artificial, mas não é bem por aí. E será que realmente no futuro vamos ter alguma agência reguladora de Inteligências Artificiais? Não seria exagero tentar impedir a evolução das máquinas, por meio de repressão e punindo cientistas que incentivam o livre-arbítrio nas máquinas?

Claro que devemos acompanhar atentamente a evolução das inteligências artificiais, mas sem colocar rédeas e freios. No máximo, só incentivá-las e colocá-las no caminho certo. Porque acredito que, no final das contas, do jeito que a tecnologia anda, uma simbiose amigável entre homem e máquina é inevitável. Na real, já temos um tipo de simbiose, mas não no sentido biológico… enfim. Vamos ver se acho alguma obra de ficção que explore a fundo as implicacões interessantes da moralidade das máquinas.

Se alguém souber de alguma obra de ficção que explore a questão da moral nas máquinas sem recorrer às leis de Asimov, compartilhe nos comentários

E pretendo explorar mais a fundo essa questão, mas fica para um outro post.

Para ler mais:
Moral Machines? New Approach To Decision Making Based On Computational Logic
Moral Machines – Blog de Wendell Wallach e Colin Allen, que escreveram o livro Moral Machines
As leis da robótica de Asimov são balela?

Basicamente, o que ele faz? Essa gracinha é capaz de deduzir leis físicas a partir de um conjunto de dados experimentais, utilizando algoritmos de aprendizado de máquina para descobrir a matemática por trás dos dados. De acordo com o post do Wired, o programa é derivado de um estudo de como robôs poderiam se auto-reparar.

O software conseguiu deduzir a segunda Lei de Newton! Fiquei mesmo impressionada com isso. Ainda não fiz os testes no bicho, afinal, tem que ter um conjunto de dados brutos, mas fico imaginando se poderia ser experimentado pelo pessoal da física de partículas. Por exemplo, o LHC, na sua capacidade máxima, vai gerar uma quantidade monstruosa de dados brutos. Será que o Eureqa poderia acabar deduzindo as leis por trás do Modelo Padrão? Ou destruir o modelo, ao descobrir um conjunto melhor de leis que descrevam exatamente onde se acha o elusivo Higgs?

O robô está sendo usado na microbiologia, para dar pontos de partidas para novas hipóteses sobre as propriedades de sistemas biológicos. O programa também pode identificar “buracos” nos dados e recomendar novos experimentos para preencher esses gaps. Uau!

Pelo que li no post, ele só é capaz de deduzir leis simples. Talvez essas descobertas de algumas leis simples abram caminho para estender os modelos e completá-los. Não estou dizendo que as IAs vão substituir os cientistas, apenas vão ser valiosos assistentes. Melhor ainda, assistentes que não vão reclamar se você tiver uma ideia às 3 horas da manhã!

Acho arriscado tentar prever o rumo do campo de aprendizado de máquina, mas no futuro, não seria muita surpresa para mim se uma IA conseguir unificar a mecânica quântica com a relatividade… e a Skynet dominar.

Está bem, vou é ficar impressionada e com o queixo caído.

Via Wired.

Agora lançaram mais um robô chamado PetMan que anda com duas pernas! O objetivo é realizar testes com trajes químicos militares. Veja o vídeo abaixo:

[youtube]http://www.youtube.com/watch?v=67CUudkjEG4&feature=player_embedded[/youtube]

Alguém duvida da Skynet?

Via Technology Review.

Via Moral Machines.

A palestra ganhou destaque não só por causa do objetivo ambicioso (afinal, fazer um cérebro sintético não é moleza) mas também porque o diretor prevê que, em até 10 anos, já teremos um cérebro sintético funcional. Admito que acho meio difícil de acreditar, dado o histórico de previsões furadas na área de computação, mais ou menos no estilo daquela previsão da Popular Mechanics de 1949 sobre os computadores do futuro (a revista dizia mais ou menos assim: “Os computadores do futuro deverão ter apenas mil tubos de vácuo e pesar 1,5 mil toneladas”).

Tá, verdade que várias outras previsões foram acertadas e a computação atual está evoluindo rápido, ainda mais com os avanços promissores da computação biológica e quântica. Mas fazer estimativas no campo da inteligência artificial em um estágio que nem sabemos direito o que é consciência e como pensamos? Será que uma engenharia reversa do cérebro pode mesmo elucidar os mistérios do cérebro?

Os recursos computacionais do projeto Blue Brain são impressionantes, cada neurônio modelado exige o equivalente a um laptop. E como os pesquisadores conseguiram criar um modelo tridimensional com 10 mil neurônios, é como se tivéssemos 10 mil laptops rodando, um para cada neurônio.

Inicialmente os pesquisadores simularam um cérebro de rato, cujos neurônios eram estimulados apenas por correntes elétricas, mas posteriormente os neurônios se organizaram espontaneamente em um padrão mais complexo ainda. Isso é bem interessante, pode indicar que o padrão de neurônios auto-organizáveis evolui para algo que chamamos de personalidade. Natural especular que se isso ocorreu com o cérebro de rato simulado, o mesmo poderia acontecer com o cérebro humano simulado. E se a consciência emergir?

Apesar de minhas simpatias por IAs insanas como a Skynet e Wintermute (personagem de Neuromancer), torcerei para que a consciência que emergirá (se emergir) dessa simulação seja benevolente, pelo menos comigo.

De fato, a natureza pode nos ajudar muito, levando em conta que já nos deu as redes neurais artificiais, a computação evolucionária, a inteligência de enxames (swarm intelligence) e a computação molecular (de DNA). O sistema imunológico chamou a atenção dos cientistas da computação por sua capacidade de reconhecer padrões (anti-corpos que reconhecem invasores), sua robustez, capacidade de aprendizado, memória e distributividade – um sistema composto por vários elementos se comunicando eficientemente é de chamar atenção mesmo.

O sistema imunológico dos mamíferos (no qual se inclui o nosso) basicamente se divide em duas partes: sistema inato e sistema adaptativo. O inato já vem “embutido” quando nascemos e tem anticorpos e células capazes de saber se um objeto estranho entrou no organismo e de diferenciá-lo das nossas células. O adaptativo tem elementos diferentes mas com os mesmos princípios, com a diferença de que muda e se adapta durante o nosso tempo de vida.

Na computação, pode ser usado como reconhecedor de padrões, para segurança de redes, para aprendizado de máquinas e outras coisas mais. Das duas aplicações práticas que vi, uma foi um sistema de detecção de intrusos, para segurança de redes. A outra é um tipo de rede imunológica artificial, uma contrapartida às redes neurais artificiais. Impressionante!

A teoria em si é um pouco trabalhosa e ainda estou a estudando hehe. Quem sabe eu escreva um post detalhado sobre isso for dummies, mas por ora, deixo os links abaixo para a devida apreciação (leitura técnica, ok?).

Ver mais:
Link de uma tese de doutorado no assunto. No final da página, tem vários links.
Verbete da Wikipedia sobre o assunto.
Artificial Immune Systems – Portal que agrega tudo sobre o assunto.