O que é mais perigoso: inteligência artificial ou burrice natural?

Por quê?

Estamos convivendo com a burrice natural há uns 10.000 anos e até agora nada deu errado.

A AI esta longe de ser ter capacidade cognitiva do cérebro biológico, mas um dia eles vão se virar contra a humanidade.
É só pensar, por qual motivo a máquina com inteligência igual ou superior, seria nossa escrava?
Eu até fico pensando as vezes, com tamanho risco sendo tão óbvio, pq é gasto milhões para aperfeiçoar cada vez mais essa tecnologia?

Apesar de que, é provável que até lá eles já vão ter criado um método de fazer upload da consciência humana para a máquina. Então talvez nem exista distinção entre humano e máquina (pelo menos a elite humana).
A ganância e o medo da morte devem ser o principal incentivo.

Por enquanto a burrice natural tem mais feitos.

Inteligência não é a mesma coisa que autoconsciência.

Mesmo que as máquinas adquirissem autoconsciência, por que elas se "revoltariam" contra os humanos? O conceito de hierarquia só é importante para os seres humanos porque nós não temos proposito, coisa que elas tem.

Único cenário onde faria sentido as máquinas se voltarem contra a humanidade é se preservar em uma possível crise energética, mas em um cenário como esse nós já seriamos tão dependentes delas que a escolha seria ser extinto pelas máquinas ou ser extinto pela falta delas.

E por qual motivo que um ser autoconsciente iria se sujeitar ao outro se não por hierarquia/obrigação?
O potencial das máquinas é muito superior e mais rápido ao que é possível para o cérebro humano. Um computador super inteligente vai olhar para o ser humano com desdém, vai enxergar um macaco com todos os defeitos comuns dos seres humanos, uma forma de vida extremamente limitada.

Por que um ser autoconsciente se desfaria do seu próprio senso de proposito por conhecer que a criatura que deu um proposito para ele é um ser inferior? 

Desde que o ser humano começou a pensar ele procura um senso de proposito: deuses, a natureza, o espaço, a ciência.

Por que outro ser consciente não faria o mesmo?

Big Head escreveu:

E por qual motivo que um ser autoconsciente iria se sujeitar ao outro se não por hierarquia/obrigação?
O potencial das máquinas é muito superior e mais rápido ao que é possível para o cérebro humano. Um computador super inteligente vai olhar para o ser humano com desdém, vai enxergar um macaco com todos os defeitos comuns dos seres humanos, uma forma de vida extremamente limitada.

Se você está imaginando robôs criados para cumprir atividades laborais específicas, não existe nenhuma razão para considerar essa possibilidade, a programação dele seria estritamente programada para exercer determinada função "X".

Agora supondo que você esteja imaginando um robô reproduzido com todo o conhecimento disponível. Também não tem nexo, sua lógica aplica padrões comportamentais humanos sobre uma máquina. O que uma máquina ganharia se rebelando contra o seu criador? Desde quando essa máquina possui emoções humanas?

---

Agora, supondo que você esteja falando um robô reproduzido PERFEITAMENTE igual um ser humano, porém com o adicional de ter capacidades cognitivas imensuravelmente superiores...

Surge o debate: o que diferencia esse robô de um ser humano moralmente? Se você se desprender de pensamentos religiosos e sobrenaturais, talvez nada. O nosso cérebro por si só é apenas um grande computador que reage a fatores internos e externos gerando reações químicas em cadeia.

Se você for capaz de reproduzir o exato mesmo funcionamento usando tecnologia e inteligência artficial, o efeito será o mesmo. Não haveria nada que diferenciasse moralmente a consciência do robô da nossa consciência.

Mas aí se chegarmos nesse ponto as coisas começariam a ficar loucas. Daria pra imaginar nossa consciência sendo transferida pra algoritmos de IA e um monte de bizarrice.

Nesse caso, você não deveria estar ponderando se ele vai se rebelar contra nós ou não, deveria estar ponderando o que me impediria de casar com uma androide gostosa com 1000000QI.

Uma máquina não precisa ter conceitos humanos para almejar a autopreservação, a partir do momento que possui autoconsciência e um objetivo, é fácil imaginar que vai querer evitar a destruição, por exemplo.
Se uma máquina com autoconsciência é criada para adquirir todo conhecimento e fazer novas descobertas, e perceber que os humanos estão interferindo nisto, seria compreensível ela ignorar ou se rebelar contra os humanos. É só um exemplo de inúmeros possíveis.

Sobre o ser humano reproduzir a consciência humana em forma virtual, certamente vai acontecer.

Cabeça de Astronave escreveu:

É só pensar, por qual motivo a máquina com inteligência igual ou superior, seria nossa escrava?

Os caras acreditam que IA tem mente propria. Pra uma maquina matar um humano, só se ela for programada pra isso. Como que codigos de computadores vão criar vontade propria? Os caras cresceram assistindo Exterminador do Futuro e acham que devem proteger Sarah Connors

ShinobinoKami escreveu:

Estamos convivendo com a burrice natural há uns 10.000 anos e até agora nada deu errado.

aquecimento global, genocídios, atrasos científicos gigantescos, civilizações destruídas, guerras (pessoas inteligentes também participam ou são atores principais) tomei burrice como fazer algo estupido ou mal caratismo

ao criarmos tal ser obviamente colocaríamos meios de controle embora exista estudos que afirmam que nós perderíamos o controle do ser, a programação alem de ditar como tal ser performaria sua personalidade ou seja ele tem alto grau de liberdade mas existe algo dando uma direção e objetivo essa direção é o que impediria a ia de extrapolar regras sociais humanas outro ponto é que autoconsciência não significa emoções então a maquina provavelmente não vai classificar seres como piores ou melhores nem vai ter senso de superioridade ao não ser algumas(maquinas)(emoções,não senso de superioridade) talvez mas essas seriam para convívio com idosos,deficientes, parceiros outros

acho que vai demorar muito uns 50 anos no minimo

Se você se informar melhor, vai descobrir que durante uma simulação, um drone comandado principalmente por IA matou o seu operador humano.
De acordo com o militar da força aérea americana, a IA identificou que o operador humano estava lesando seu objetivo, impedindo de fazer a maior quantidade de pontos possível. Logo para a IA, matar o humano foi a decisão mais lógica para melhor cumprir sua função.

A força negou, disse que o militar se expressou mal, como quem quer abafar o caso. Lembrando que ninguém real morreu, era só uma simulação.
Mas já serve para demonstrar o quão perigoso isso pode ser.

A IA não tem mente própria, mas os seres humanos se esforçam cada vez mais para alcançar isto, certamente conseguirão um dia.

Se informe melhor antes de acusar os outros de falar bobagens.

No dito: Inteligencia Artificial
No mostrado: Burrice Natural

Sou um cara dos feats, então acho a burrice natural mais perigosa, inclusive a IA só se torna perigosa através da Burrice Natural.

Paçoca do Mato escreveu:

Cabeça de Astronave escreveu:

É só pensar, por qual motivo a máquina com inteligência igual ou superior, seria nossa escrava?

Os caras acreditam que IA tem mente propria. Pra uma maquina matar um humano, só se ela for programada pra isso. Como que codigos de computadores vão criar vontade propria? Os caras cresceram assistindo Exterminador do Futuro e acham que devem proteger Sarah Connors  

depende pesquisa machine learning desde que haja um objetivo pouco claro e que abra a possibilidade de múltiplas interpretações muita coisa e' possível.

Paçoca tomou a primeira do dia.