O físico mais famoso do mundo está a alertar sobre os riscos decorrentes de superinteligência máquina, dizendo que ela pode ser a coisa mais importante que já aconteceu na história da humanidade - e, possivelmente, a última.
A superinteligência artificial representa uma potencial ameaça existencial para a humanidade.
Hawking, juntamente com o cientista de computação Stuart Russell e os físicos Max Tegmark e Frank Wilczek , dizem que os benefícios potenciais podem ser enormex, mas não podemos prever o que podemos conseguir quando a IA for ampliada - quer para o bem quer para o mal.
Escrevendo no The Independent, os cientistas afirmaram em tom de alerta:
Olhando para o futuro, não há limites fundamentais para o que pode ser alcançado: não há nenhuma lei física que impeça as partículas de se organizarem de forma que executem cálculos ainda mais avançados do que os arranjos de partículas em cérebros humanos.
Uma transição explosiva é possível, apesar de talvez ser um pouco diferente de um filme: como Irving Good percebeu em 1965, máquinas com inteligência sobre-humana podem repetidamente melhorar o próprio design, ativando o que Vernor Vinge chamou de “singularidade” e o personagem do filme de Johnny Depp chama de “transcendência”.
Alguém pode pensar que tal tecnologia pode ser mais inteligente que mercados financeiros, superar pesquisadores humanos, ficar além da manipulação de líderes humanos e desenvolver armas que nem conseguimos entender.
Considerando que o impacto de curto prazo da AI depende de quem a controla, o impacto a longo prazo depende se ela pode ser de alguma forma controlada. Então, encarando possíveis futuros de benefícios e riscos incalculáveis, os especialistas certamente vão fazer tudo possível para garantir o melhor resultado, certo? Errado.
Se uma civilização alienígena superior nos envia uma mensagem “Estamos chegando dentro de algumas décadas”, nós responderíamos apenas “Ok, ligue quando estiverem por aqui – vamos deixar as luzes acesas”? Provavelmente não – mas é mais ou menos isso o que está acontecendo com a inteligência artificial.
Apesar de estarmos prestes a encarar o que potencialmente será a melhor ou pior coisa da história da humanidade, pouca pesquisa séria está sendo feita sobre essas questões fora de instituições sem fins lucrativos como o Centro de Estudos de Risco Existencial em Cambridge, o Instituto do Futuro da Humanidade, o Instituto de Pesquisa de Inteligência de Máquina, e o Instituto de Vida Futura.
Todos devíamos nos perguntar o que podemos fazer para melhorar as chances de colher os benefícios e evitar os riscos. [io9]
Concordo, se não os desenvolvemos direito eles podem sim se tornarem uma grande ameaça, mas se o deselvolvemos com inteligência , ele podem ser muito util a nós , inclusive para contruir coisas mais modernizadas como pode ser util para cura doenças, meios de diversão, ensino , construções de novas tecnólogias espacias , nossa própia defesa e muito mais, mas sim todo novo tipo tecnologico precisa ser feito com cautela.
ResponderExcluir