A Singularidade Tecnológica

Achei interessante encontrar quadrinhos online tão interessados na singularidade tecnológica.

Essa palavra, singularidade, é tomada de empréstimo da Física: a singularidade é uma concentração de massa tão alta que ela distorce o espaço e o tempo de forma extrema -- como é o caso de um buraco negro.

A singularidade tecnológica é a idéia de uma concentração de tecnologia, ou inteligência aplicada, tão imensa que a partir daquele ponto da progressão científica da humanidade se torna... extrema.

O exercício de imaginação costumeiro é o seguinte: suponha que a humanidade consiga produzir uma inteligência artificial super-inteligente. Essa inteligência artificial, por hipótese, seria capaz de produzir inteligências artificiais super-super-inteligentes. De modo que a inteligência artificial super-inteligente é a última descoberta científica necessária para os seres humanos -- a partir desse ponto, a tecnologia desenvolve a tecnologia, e nós estamos livres do problema.

A tirinha que eu colei na minha mensagem anterior, pedindo pra alguém por favor me achar uma Kimiko nesse mundo, tem um exemplo de crítica a esse sonho da singularidade tecnológica.

Eu mesmo tenho algumas.

Suponha um grupo de cientistas capazes de desenvolver a inteligência artificial super-inteligente. Por quê eles fazem isso? O problema da motivação humana nos é muito bem conhecido: dinheiro, fama, prazeres, etc.

Suponha então a inteligência artificial super-inteligente. Por que ela desenvolveria inteligências artificiais super-super-inteligentes? Dinheiro, fama, prazeres não ocorrem a computadores. Adicionar a hipótese de que ela o faria porque foi programada para isso é reduzir a sua condição de inteligência artificial -- inteligência do tipo humano.

Enquanto seres racionais, nós somos capazes de desenvolver ciência e tecnologia; mas a motivação para fazê-lo reside no nosso cérebro emocional (assim chamado). Uma inteligência artificial super-inteligente seria um ser emocional? Me parece necessário à hipótese.

Mas que espécie de filosofia de vida se produziria numa inteligência artificial super-inteligente? Sabemos que seres humanos de Q.I. muito alto têm sérios problemas para se ajustar ao mundo e se tornarem seres satisfeitos. Se nossa inteligência artificial super-inteligente se tornasse o equivalente a um nerd de computador eu sou capaz de imaginar que é bem possível que ela se motivasse a criar inteligências artificias super-super inteligentes; mas não creio que ela prestaria pra muito mais que isso.

Como um aparte, espero que a primeira inteligência artificial super-inteligente não se torne budista e concluia que a não-ação é o melhor caminho. Seus criadores se sentiria muitíssimo frustrados e talvez a desligassem da tomada -- levando-a a um estado de ausência tão completa que eu seria obrigado a nomear nirvana.

Melhor que ela se torne hindu e entenda, como Krishna queria que Arjuna entendesse, que se você é guerreiro, você guerreira; se você é computador, você computa.

Além disso, nós humanos bem sabemos que a inteligência é mera capacidade de computador, e que nossa capacidade de agir é total e inescapavelmente restrita pelo alcance dos nossos braços e pernas, olhos e ouvidos, e da nossa voz. Uma inteligência artificial super-inteligente, para ser capaz de fazer de tudo, teria ser ser conectada através de membros e sentidos a tudo. Nossa história de produção em ficção científica já nos aterrorizou o suficiente para que esse cenário seja ainda muito mais improvável que a própria singularidade tecnológica.

É claro que essas conjecturas não tornam o evento muito mais improvável do que já é; meramente elabora detalhes que escorrem pelos cantos da imaginação que sonha com a tecnologia absoluta. Minha conjectura fundamental é: uma inteligência artificial equivalente à humana tem, ao menos, tanta chance de passar toda a sua existência vendo jogos de futebol e conversando com a galera que desenvolvendo ciência e tecnologia miraculosa.