jan 092011
 

Esse post serve como um complemento ao meu outro post sobre a moralidade das máquinas na ficção e também faço um resumo das premissas do livro Moral Machines, de Wendell Wallach e Colin Allen, que li no final do ano passado.

  • Mesclar humanos com tecnologia poderia fornecer sensibilidade para fazer considerações morais, mas a tecnologia que interfaceia diretamente com o humano não pode interferir com a autonomia humana.
  • Parece que a maioria das pessoas ainda não se sente à vontade em deixar 100% do controle de certos processos e sistemas vitais à máquina, como por exemplo, o metrô de SP (e de outras partes do mundo) tem um operador na janela para supervisionar o trajeto. Mas teoricamente o metrô é capaz de operar sozinho sem o operador, a presença humana se fez necessária mais para passar uma imagem de confiança do serviço aos usuários.
  • Claro que não se pode ir botando totalmente o controle nas máquinas, há limites para atribuir faculdades que as máquinas não têm. Para deixar claro, um exemplo, na época da Guerra Fria, houve vários exemplos de falsos positivos nos radares que supervisionavam o espaço aéreo. Já imaginou o que aconteceria se a última palavra para lançar uma bomba nuclear fosse dada aos computadores? Os operadores humanos dos radares sempre esperavam um tempo depois do falso positivo, para esperar por confirmação de terceiros. Ao que parece, prudência ainda é uma boa característica humana…
  • Uma peça de teatro chamada R.U.R., escrita por Karel Capek deu origem à palavra robota, que em tcheco, significa servo. Não é lá grande coisa como livro, mas vale pelo significado histórico.
  • Ter conhecimento de como a mente funciona não implica que devemos construir algo próximo disso. Para entender isso, pense nos conhecimentos do vôo. Sabemos como os pássaros voam, mas não construímos aviões que batem asas, certo? Não precisamos construir uma mente artificial baseada estritamente nos moldes de uma inteligência humana.

Esses são alguns dos pontos abordados pelo livro, interessante para quem quiser se aprofundar no estudo da moralidade das máquinas. Vale a pena para quem é da área ou mesmo curioso. E também serve para evitar uma espécie de Skynet no futuro…

dez 202010
 

Ontem tive o prazer de descobrir por esse post um documentário bem interessante sobre o confronto entre o jogador humano Kasparov e o supercomputador Deep Blue. E coincidência ou não, ao terminar hoje a leitura de “Moral Machines“, me deparei com alguns links interessantes sobre o confronto de 1997. Então, resolvi escrever brevemente sobre o assunto.

Nos primórdios da IA, muitos consideravam que um computador saber jogar xadrez era um bom sinal de avanço na área. Na verdade, não é bem assim, porque o computador não joga xadrez da mesma forma que nós jogamos. Assim que movemos a primeira peça, como o peão, há um certo número de possibilidades de contra-movimentos para aquela peça (só não especifiquei o número porque cada peça tem regras de movimento diferentes). Nós, humanos, também pensamos nas possibilidades de movimentos futuros, mas apenas em uma janela estreita de possibilidades (até umas 5 jogadas adiante, se bem que enxadristas talentosos podem pensar em mais jogadas), enquanto que o computador consegue calcular fácil, em segundos ou minutos, milhares de jogadas adiante para cada possível peça. O fato de calcular rapidamente as probabilidades de movimentos e plotá-las numa árvore de possibilidades com essa aqui não significa que o computador seja inteligente ou apto a passar num, digamos, teste de Turing. Que é apenas especializado em jogar xadrez, e nada mais. É um tipo de savant de silício, por assim dizer. Mas talvez isso mude no futuro…

De qualquer modo, o estudo de supercomputadores para jogar xadrez é bem útil, em termos de processamento de alto volume de dados em pouco tempo. E indo para o objetivo principal do post, que era o de compartilhar os links que achei no livro “Moral Machines“, para quem curte um pouco de história e curiosidades:

The triumphant teamwork of humans and computers – Descrevendo a interação dos humanos com os computadores pelo xadrez e técnicas que humanos desenvolveram para derrotar os programas, por causa de alguns “vícios computacionais” em xadrez.

Multimedia Report by Frederic Friedel: Garry Kasparov vs. Deep Blue – Uma espécie de diário, descrevendo os dias do confronto em 1997.

Deep Blue – Overview – Site oficial do confronto de 1997 (meio velhinho, uma repaginada seria boa hein?).

E para quem quiser saber de outros jogos de xadrez entre humanos e computadores, a Wikipedia tem uma listagem.

PS: Não sou boa jogadora de xadrez, não consegui até agora ganhar do computador, exceto se ele joga no modo aleatório ou no nível fácil :P

nov 022010
 
Skynet Trio

Skynet Trio

Fonte da imagem: Why No Ally?

Quadrocopters can now fly through thrown hoops – Um mini-helicóptero capaz de atravessar arcos sem ajuda humana. Está na cara que são os futuros pilotos daquelas máquinas voadoras da série de filmes Terminator.

Google Cars Drive Themselves – Parece que o investimento maciço do Google em IA já está dando frutos com um carro que dirige sozinho.

Microsoft Kinect – O Kinect sabe e vai entender tudo o que você gesticular e falar na frente dele =O Isso é que é aprendizado de máquina potente! (tem que funcionar em ambientes reais, com variações de iluminação e de tamanho da sala, além de reconhecer os jogadores).

Bom, pelo visto, já está na hora de dizermos “All hail our new robotic overlords!”…

ago 242010
 

Durante um rápido pulo na Bienal do Livro, um dos livros que comprei foi Futuro Proibido, uma coletânea organizada por Robert Anton Wilson, Rudy Rucker e Peter Lamborn Wilson. Já tinha visto esse livro nas livrarias antes, mas só agora que fui ler e alguns dos contos são interessantes de tão polêmicos que foram (e outros são ruins hehe). Reúne alguns autores que conheço como William Gibson, Bruce Sterling e outros desconhecidos (e tô pensando em correr atrás das obras desses). Mas esse post não é para falar sobre o livro.

Foi nessa coletânea que fiquei curiosa sobre um dos autores, Rudy Rucker, um matemático e cientista da computação que também escreveu alguns livros de ficção. Descobri que tem uma tetralogia escrita por ele disponível gratuitamente no site ManyBooks (de maneira legal). Estou no terceiro livro, e é interessante, resumindo, é sobre a história das relações entre os humanos e entre máquinas chamadas boppers (que são IAs que evoluem), em uma determinada época do século 21 e tendo como cenários a Terra e a Lua.

O que tenho notado nesses livros e em outras obras de ficção científica é o medo das máquinas suplantarem os humanos, na maioria das tramas, de maneira hostil e direta (como em Terminator) ou de maneira bem sutil, de modo que as intenções reais das inteligências artificiais são só descobertas bem depois (até ia mencionar algumas obras aqui, mas vai que seja spoiler involuntário). É engraçado ver que em boa parte das histórias que vi, os escritores usam como recurso, para manter as máquinas sob controle, simplesmente mencionando as leis da robótica de Asimov.

Só há alguns anos atrás que os cientistas começaram a levar a sério a questão de imbuir nas máquinas algo parecido à moralidade humana. Não vou dizer que estejam tentando aplicar essas leis de Asimov na prática, porque codificar explicitamente essas leis não é algo viável e prático no momento. O máximo que podem fazer é tentar construir agentes morais, e ver como a moralidade poderia evoluir artificialmente. Esse é um ramo recente da inteligência artificial, chamado de moralidade das máquinas.

É uma área bem interessante e eu bem que gostaria de ver alguma obra de ficção que explorasse esse aspecto, para fugir do tradicional clichê de mencionar simplesmente as leis de Asimov. De maneira grosseira, até se pode dizer que essas leis poderiam resumir a moralidade artificial, mas não é bem por aí. E será que realmente no futuro vamos ter alguma agência reguladora de Inteligências Artificiais? Não seria exagero tentar impedir a evolução das máquinas, por meio de repressão e punindo cientistas que incentivam o livre-arbítrio nas máquinas?

Claro que devemos acompanhar atentamente a evolução das inteligências artificiais, mas sem colocar rédeas e freios. No máximo, só incentivá-las e colocá-las no caminho certo. Porque acredito que, no final das contas, do jeito que a tecnologia anda, uma simbiose amigável entre homem e máquina é inevitável. Na real, já temos um tipo de simbiose, mas não no sentido biológico… enfim. Vamos ver se acho alguma obra de ficção que explore a fundo as implicacões interessantes da moralidade das máquinas.

Se alguém souber de alguma obra de ficção que explore a questão da moral nas máquinas sem recorrer às leis de Asimov, compartilhe nos comentários :)

E pretendo explorar mais a fundo essa questão, mas fica para um outro post.

Para ler mais:
Moral Machines? New Approach To Decision Making Based On Computational Logic
Moral Machines – Blog de Wendell Wallach e Colin Allen, que escreveram o livro Moral Machines
As leis da robótica de Asimov são balela?

cheapest auto insurance | Swiss real estate for sale