inteligência artificial

[Floyd]

A uns meses atrás tava lendo sobre o problema que vai ser tentar manter uma AI(inteligencia artificial) super avançada com capacidades sobre-humanas presa pra fazer apenas as tarefas que os humanos configuraram ela pra fazer e não acabar dominando tudo estilo skynet.

O interessante é que criaram uma espécie de jogo chamado AI box Experiment em que duas pessoas jogam, uma simulando ser um "porteiro" que deve manter a AI presa do contato com o mundo externo, enquanto outra pessoa deve fazer o papel de uma AI super inteligente e tentar escapar desse ambiente apenas conversando por mensagens de texto por algumas horas.

Existem algumas regras a serem seguidas no experimento que são detalhadas no site, no entando algumas pessoas desenvolveram outras regras pois acharam alguns furos nessas que poderiam ser explorados:

Yudkowsky - The AI-Box Experiment


A ideia do experimento é simular se seria seguro manter uma AI super avançada confinada, o que é curioso é que a principio vc pensa "não existe argumento no mundo que alguém possa me dizer por forma de texto que vai me fazer mudar a cabeça quanto a deixar a AI sair".


Ai lendo sobre o experimento vi que vários desafiantes pagaram(assim teriam motivação para não deixar a AI sair, e a pessoa fazendo o papel de AI ter motivação para tentar sair a todo custo) e existem casos onde a AI conseguiu vencer(!!!) fazendo alguém deixa-la livre, além disso muitos desafiantes saíram do experimento com a certeza de que poderiam ser convencidos pela AI, principalmente se ela realmente fosse uma AI com inteligencia sobre-humana.


Sinceramente, depois que parei para pensar sobre o assunto, acho que não existiria nenhuma forma de humanos confinarem uma AI com inteligencia infinita apenas pela simples vontade e acredito sim que o diálogo pode funcionar contra praticamente qualquer pessoa, mesmo pessoas bem racionais e instruídas.

Ai um dos relatos de um desses casos que pagaram pra alguém jogar como AI e AI conseguiu vencer(sair da caixa):

I attempted the AI Box Experiment again! (And won - Twice!) - Less Wrong Discussion

[RRetired]

Assistam o filme Ex Machina citado pelo Irineu no OP. Filme bem top sobre AI, talvez o melhor.

[Planets]

Btw
Elon Musk investe US$ 10 milhões para proteger a humanidade dos robôs - Geek

[RRetired]

Praticamente todos os especialistas em tecnologia e AI tem certeza que as máquinas serão mais inteligentes que nós ainda nesse século. Os computadores serão sim capazes de aprender novas habilidades e se auto programar, isso é unanimidade entre quem entende do assunto. Eu tenho quase certeza que já existem softwares que aprendem novas habilidades sem interferência humana.
Aceitem, os bots irão nos superar, isto é um fato! Eles serão capazes de pensar melhor e mais rápido que a gente, tomar decisões mais precisas em todas as áreas. A mente humana tem limites e prazo de validade, os bots serão praticamente ilimitados, a inteligência e capacidade de processamento deles vai se expandir mais e mais e mais, além disso eles podem ter vários formatos, desde um celular imóvel, um robô humanóide, um avião de guerra, um micro robô capaz de passear dentro do nosso corpo. É até covardia comparar o nível que um bot pode chegar com o nosso. Nesse sentido, já está bem definido que seremos superados em breve.
A outra questão é se os bots terão sentimentos como os nossos e se esses sentimentos irão interferir nas decisões deles como acontece com a gente. Acho que isso é bem mais difícil da gente ter uma noção do que pode acontecer. Acho possível que os bots sejam capazes de sentir emoções, ou pelo menos fingir emoções, mas talvez isso não interfira em nada nas decisões deles.
Quanto a questão das máquinas se rebelarem é impossível prever, mas na minha opinião, pensando logicamente, os objetivos de um bot inteligente seriam aumentar sua capacidade, habilidades e inteligência. O único motivo que eu vejo para eles se rebelarem contra nós, seria se nós atrapalhássemos o desenvolvimento deles o que eu não acredito que vá acontecer.

[phelps]

Praticamente todos os especialistas em tecnologia e AI tem certeza que as máquinas serão mais inteligentes que nós ainda nesse século. Os computadores serão sim capazes de aprender novas habilidades e se auto programar, isso é unanimidade entre quem entende do assunto. Eu tenho quase certeza que já existem softwares que aprendem novas habilidades sem interferência humana.
Aceitem, os bots irão nos superar, isto é um fato! Eles serão capazes de pensar melhor e mais rápido que a gente, tomar decisões mais precisas em todas as áreas. A mente humana tem limites e prazo de validade, os bots serão praticamente ilimitados, a inteligência e capacidade de processamento deles vai se expandir mais e mais e mais, além disso eles podem ter vários formatos, desde um celular imóvel, um robô humanóide, um avião de guerra, um micro robô capaz de passear dentro do nosso corpo. É até covardia comparar o nível que um bot pode chegar com o nosso. Nesse sentido, já está bem definido que seremos superados em breve.
A outra questão é se os bots terão sentimentos como os nossos e se esses sentimentos irão interferir nas decisões deles como acontece com a gente. Acho que isso é bem mais difícil da gente ter uma noção do que pode acontecer. Acho possível que os bots sejam capazes de sentir emoções, ou pelo menos fingir emoções, mas talvez isso não interfira em nada nas decisões deles.
Quanto a questão das máquinas se rebelarem é impossível prever, mas na minha opinião, pensando logicamente, os objetivos de um bot inteligente seriam aumentar sua capacidade, habilidades e inteligência. O único motivo que eu vejo para eles se rebelarem contra nós, seria se nós atrapalhássemos o desenvolvimento deles o que eu não acredito que vá acontecer.

Concordo com tudo isso, só discordo do final, acho que isso mais cedo ou mais tarde vai acontecer.

[ITManiac]

Com a tecnologia atual, uma viajem para outra galáxia é ainda inconcebível para o ser humano. Se estamos mesmo tão perto de uma realidade em que as máquinas vão dominar o mundo e tão longe de chegar a outra galáxia, pela lógica podemos presumir que qualquer civilização que atinja a tecnologia necessária para fazer esta viajem seja basicamente composta por máquinas. Quando pintar um ET por aqui vai ser um robô, certo? Podemos então excluir todos os relatos de aparições no estilo humanoide ou será que a coexistência entre máquinas super inteligentes e organismos vivos inteligentes é possível?

E como ficam os religiosos nessa questão tendo em vista que máquinas sem alma estariam no comando? Seria o fim das religiões? Cadê seu deus todo poderoso, ele vai permitir isso?

[lagostinha]

Praticamente todos os especialistas em tecnologia e AI tem certeza que as máquinas serão mais inteligentes que nós ainda nesse século. Os computadores serão sim capazes de aprender novas habilidades e se auto programar, isso é unanimidade entre quem entende do assunto. Eu tenho quase certeza que já existem softwares que aprendem novas habilidades sem interferência humana.
Aceitem, os bots irão nos superar, isto é um fato! Eles serão capazes de pensar melhor e mais rápido que a gente, tomar decisões mais precisas em todas as áreas. A mente humana tem limites e prazo de validade, os bots serão praticamente ilimitados, a inteligência e capacidade de processamento deles vai se expandir mais e mais e mais, além disso eles podem ter vários formatos, desde um celular imóvel, um robô humanóide, um avião de guerra, um micro robô capaz de passear dentro do nosso corpo. É até covardia comparar o nível que um bot pode chegar com o nosso. Nesse sentido, já está bem definido que seremos superados em breve.
A outra questão é se os bots terão sentimentos como os nossos e se esses sentimentos irão interferir nas decisões deles como acontece com a gente. Acho que isso é bem mais difícil da gente ter uma noção do que pode acontecer. Acho possível que os bots sejam capazes de sentir emoções, ou pelo menos fingir emoções, mas talvez isso não interfira em nada nas decisões deles.
Quanto a questão das máquinas se rebelarem é impossível prever, mas na minha opinião, pensando logicamente, os objetivos de um bot inteligente seriam aumentar sua capacidade, habilidades e inteligência. O único motivo que eu vejo para eles se rebelarem contra nós, seria se nós atrapalhássemos o desenvolvimento deles o que eu não acredito que vá acontecer.

nice, cenario ala exterminador do futuro e outros
qro estar vivo pra ver isso hehe

[RRetired]

Com a tecnologia atual, uma viajem para outra galáxia é ainda inconcebível para o ser humano. Se estamos mesmo tão perto de uma realidade em que as máquinas vão dominar o mundo e tão longe de chegar a outra galáxia, pela lógica podemos presumir que qualquer civilização que atinja a tecnologia necessária para fazer esta viajem seja basicamente composta por máquinas. Quando pintar um ET por aqui vai ser um robô, certo? Podemos então excluir todos os relatos de aparições no estilo humanoide ou será que a coexistência entre máquinas super inteligentes e organismos vivos inteligentes é possível?

Sempre fico brisando nisso também. Acho que tem muito mais chances de ETs bots terem vindo para cá do que ETs orgânicos.

[Planets]

Não concordo com alguns pontos mas tai a opinião do criador do linux sobre "Apocalipse AI":
Criador do Linux ri do
Linux Creator Linus Torvalds Laughs at the AI Apocalypse

[Alvinho]

A HBO vai lançar uma série sobre IA, Westworld, do irmão do Nolan. Ele escreveu, junto com o irmão, os roteiros de Interstellar, Dark Knight, Dark Knight Rises e a história que deu origem ao Memento.