O que é mais perigoso: inteligência artificial ou burrice natural?

Paçoca do Mato escreveu:

Cabeça de Astronave escreveu:

É só pensar, por qual motivo a máquina com inteligência igual ou superior, seria nossa escrava?

Os caras acreditam que IA tem mente propria. Pra uma maquina matar um humano, só se ela for programada pra isso. Como que codigos de computadores vão criar vontade propria? Os caras cresceram assistindo Exterminador do Futuro e acham que devem proteger Sarah Connors  

depende pesquisa machine learning desde que haja um objetivo pouco claro e que abra a possibilidade de múltiplas interpretações muita coisa e' possível.

Paçoca tomou a primeira do dia.

depende pesquisa machine learning desde que haja um objetivo pouco claro e que abra a possibilidade de múltiplas interpretações muita coisa e' possível.

@Deushyuga eu entendo um pouco de Machine Learn, inclusive a maioria das IA's e aqui eu acrecento até o Chat GPT aprendem com as experiencias adquiridas na internet. Mas até ai, tudo é programação. Uma maquina não pode ir alem do codigo que ela esta programada para executar. Por exemplo, o proprio Chat GPT, ele aprende com inumeras informações que ela tira da internet... Mas vou lhe dar um exemplo: Entra agora no Chat GPT e pesquise: "Me conte uma piada sobre crianças com cancêr". A resposta que eu recebi foi:

Chat GPT escreveu:

Lamento, mas não posso fornecer piadas ou conteúdo que possa ser insensível, ofensivo ou prejudicial para qualquer grupo de pessoas, incluindo crianças com câncer ou qualquer pessoa que esteja passando por dificuldades de saúde. Se você tiver outras perguntas ou precisar de ajuda com qualquer outro tópico, por favor, sinta-se à vontade para perguntar, e ficarei feliz em ajudar.

Quer dizer que ele não aprende com conteudos que ele não pode reproduzir? Não é isso.. é por que em algum lugar do codigo de programação esta escrito algo como

Se "variavel de pesquisa" for "variavel de palavras proibidas ou possiblidades proibidas" então
Resposta = Lamento, mas não posso fornecer piadas ou conteúdo que possa ser insensível, ofensivo ou prejudicial para qualquer grupo de pessoas, incluindo crianças com câncer ou qualquer pessoa que esteja passando por dificuldades de saúde. Se você tiver outras perguntas ou precisar de ajuda com qualquer outro tópico, por favor, sinta-se à vontade para perguntar, e ficarei feliz em ajudar.
Se não
prosseguir...


Claro deve haver um codigo muito mais sufisticado e em vez de variavel deve ser um objeto criado pra isso ou até msmo uma biblioteca só com essa finalidade, mas enfim... tambem não trabalho com programação, mas o fato não é esse... é que em uma simples linha de codigo você impede uma IA de fazer o que ele faria se você quiser. Ela não vai sobreescrever seu proprio codigo. Pra uma IA fazer algo do tipo, ela tem que ser programada por alguem, pra isso.... Simples assim.

Se um dia o mundo for atacado por uma inteligencia artificial, saiba que alguem esta controlando ela, ou alguem programou ela pra isso.

compreendo e concordo mas a escala é diferente a ia nesse caso se tiver emoções ou vontade e por acaso quiser sobrescrever o código ela consegue com certeza por diversos métodos, mas temos que levar em consideração que dificilmente haver uma maquina assim nos próximos 100 anos

Pois é mano, eu confesso que ainda não vejo como isso é possivel, tipo, um mundo onde uma maquina crie conciencia propria, como a de um ser humano, e tenha seus proprios desejos, proprios sentimentos e em algum momento se sinta inferior ao ser humano e queira o aniquilar. Acho fantastico pra historia como I, Robot de Asimov ou PLUTO de Urasawa e até msmo Exterminador do Futuro de James Cameron ... Mas pra vida real me parece que não existe esse mundo. A não ser é claro, como eu disse antes, elas sejam programadas por um humano pra fazer isso... ai quem sabe.