Inteligência Artificial: os acertos do professor que foi chamado de 'louco e alarmista'
Vložit
- čas přidán 5. 07. 2024
- Gary Marcus, professor emérito da Universidade de Nova York (NYU), nos Estados Unidos, e uma das principais vozes no debate sobre a inteligência artificial na atualidade, acha que o lançamento do ChatGPT nos está levando ao "momento Jurassic Park" das máquinas: a possibilidade - como no filme de Steven Spielberg - de que a situação fuja do controle.
Marcus fez algumas previsões no ano passado sobre as consequências da ampla adoção da IA no dia a dia das pessoas. Uma delas foi a de uma morte relacionada a um chatbot.
E em março último, na Bélgica, um homem que conversava frequentemente com o chatbot Eliza, da empresa Chai, cometeu suicídio. A esposa culpa o contato com o robô. O governo belga expressou preocupações com esses sistemas após a revelação do caso.
O repórter Shin Suzuki conversa com Gary Marcus e explica as incertezas que rondam o futuro sob o poder cada vez maior da inteligência artificial.
Reportagem em texto: www.bbc.com/portuguese/articl...
Curtiu? Inscreva-se no canal da BBC News Brasil! E se quiser ler mais notícias, clique aqui: www.bbcbrasil.com
#bbcnewsbrasil #inteligênciaartificial #tecnologia
A cautela nunca foi nosso ponto forte como humanidade.
Vdd, quando éramos sereias éramos mais precavidos
A 3a guerra mundial ronda ou já se vislumbra no Horizonte.
@@smarteccell7504 Cara vc é um gênio. Obrigado por compartilhar tamanha sabedoria. Estou emocionado.
Então a humanidade tá medo que a IA faça com a gente oq muitos humanos fizeram com outros humanos que consideravam inferiores? rs
@@flaedulakratos brigado, irmão.
Percebi que a IA, não é 100% confiável. Estou estudando para um concurso e pedi ao chatgpt fazer um resumo de um dos livros da biografia do concurso um livro que eu não tinha, a IA fez o resumo, montou algumas questões e até tudo bem. Depois de uns dias eu achei esse livro numa biblioteca, e levei pra casa pra estudar. Fui comparar os resumos e exercícios que o IA fez pra mim sobre o livro, e não tinha absolutamente nada haver com o conteúdo do livro 😮😮😮, enfim ela me enganou kkk.
Nem sempre o caminho mais curto é um melhor.
@@junia8 O primeiro caminho a ser tomado deveria ser o de ampliar o número de empresas de tecnologia. O mundo inteiro está nas mãos de apenas 4 empresas. Maior concorrência e fiscalização nessa área são passos fundamentais.
Mas, se nem isso a gente consegue - como impedir que a I.A. caia nas mãos de terroristas e de fanáticos religiosos?
Imagine uma guerra bacteriológica com I.A. - seria o começo do fim, já.
@@guilhermecampos9992super-errou, muitos livros hj estão em pdf.
Até aonde se sabe por enquanto é um banco de dados gigantesco q utiliza a internet e algoritmos para dar a resposta mais aproximada
Imagina uma IA acessando o código de acesso a iniciação de arma nuclear?
Uma amiga me disse ontem que pediu para a IA lhe falar o que dizer para um ex colega de trabalho que a procurou para retornar à antiga função e ela não queria. É sobre isso, estão terceirizando até o raciocínio e nem conseguem ver o enorme perigo disso.
E, assim, a mente humana vai ficando preguiçosa e vai se atrofiando. Minha nossa, terceirizar para uma AI as decisões e raciocínios que deveriam feitos ser na base da ética é mesmo o fim da picada. É o cúmulo da falta de maturidade de uma pessoa que não consegue tomar decisões por si mesma. Não há justificstiva para isso.
Que doidera .....
Também acho que é terceirizar o raciocínio: o bot já escreve, pinta, desenha, compõe músicas, recolhe textos na web, resume-os, "entende-os e chega às suas conclusões, que o indivíduo que o busca apenas copia e cola... Estamos perdidos...
@Danilo-xk2huou não, né
Tem pessoas q ñ racionam (sobre a própria vida) nunca. Como acha q padres e pastores ganham a vida?
Bem razoável as refflexões do professor Gary Marcus. É fundamental agir AGORA.
Mas o povo vai cair que nem Pato, pois no começo irá ser um oba oba ; só mais tarde verão que caíram em uma emboscada mortal
.
Em 1984, quando assisti pela primeira vez O Exterminador do Futuro, saí do cinema como se tivesse visto o pior dos pesadelos: máquinas ("inteligentes") lutando uma guerra de aniquilação contra a humanidade. Bem, pensei, apenas mais um filme de ficção. Hoje (apenas 40 anos depois) e embora estejamos longe (assim espero) daquele cenário, vejo quão preditivo foi o filme em alguns sentidos... mas já não é tão ficção.
Em 2010 estudando automação num centro tecnológico federal e vendo uma palestra sobre automação desafios pro futuro, perguntei se no futuro numa fábrica de carros somente entrasse a barra de aço e a borracha tinta plástico e do outro lado já saísse o carro pronto sem ajuda humana só as máquinas trabalhando, se não tem pessoas nas indústrias trabalhando só máquinas então como as pessoas conseguirão comprar os carros que são produzidos na fábrica?? Como vai ser esse futuro tecnológico em que tudo pode ser feito por máquinas e na hora riram de mim, me chamaram de John Connor, exterminador do futuro, o exterminador, eu já tinha noção que a própria inteligência pode se auto alimentar com novas experiências e se adaptar e hoje vejo com naturalidade muita coisa, o mundo caminha pra isso e sei que pode piorar muito a situação de emprego e a desigualdade social tende a aumentar absurdamente . E a cada dia vejo o que não percebi naquele dia, que eles não tinham noção da explosão tecnológica que estavamos vivendo e ainda estamos.
Um filme mais antigo e mais visionário ainda que exterminador do futuro nessa questão de IA: blade runner. A pouco tempo atrás, Eu fiquei assutado quando li uma matéria de um japonês que se casou com uma IA, um androide mesmo. Imediatamente, eu lembrei desse filme
E eu acredito que isso irá acontecer infelizmente
A inteligência artificial com todo esse avanço é preocupante, caso não se tenha cuidado com o que pode ser dito. Quando a reportagem citou a criação de um boato contra uma pessoa, fiquei com medo. Quantas reputações e vidas podem ser destruídas? E se não tiver uma averiguação ou uma chance de comunicar o oposto?
Se a imprensa, por exemplo, já cometeu um erro grotesco e não divulgou no tempo hábil o erro, e os "culpados " foram julgados antecipadamente, e, tiveram suas vidas arrasadas (caso Escola Base), imagina com esse poder todo que as mídias sociais e a inteligência artificial juntas terão num futuro próximo?
Me lembrei que vi um tempo atrás em um programa de tv que uma empresa tinha desenvolvido um programa que podia pegar um vídeo e colocar a voz de outra pessoa. Isto é muito perigoso!
Devemos regular sim.
Isso me faz lembrar daquele caso da mulher que foi espancada até a morte no Guarujá. Inventaram uma fake news de que ela estaria pegando crianças para fazer magia negra (provavelmente baseado em preconceito) e espancaram a mulher. Depois veio a notícia de que era só um boato. Esses dias vi uma reportagem onde mostrava a filha dela falando do perigo das fake news, que levou a mãe dela. Uma tristeza só. Inclusive, aquela novela que tava sendo exibida (Travessia) teve um caso baseado nesse acontecimento do Guarujá.
é impressionante, é bem fácil manipular o que se quiser com os editores de imagem e vídeo ...
A IA não fez nada de revolucionário, ela só fez o mesmo o que as velhas mídias sempre fizeram quando querem difamar alguém.
Meu Deus onde vai parar tudo isso.
@@wallysilva6937 Eu me lembrei deste caso também!
A inteligência artificial manipulada para o mal, propaga a fofoca de modo galopante!
Causa um tsunami na vida de uma pessoa ou de uma sociedade.
As inteligências artificiais chegam como quem nada quer e vão sorrateiramente dominando as nossas mentes e nos destruindo 😮
Toda economia baseada na emissão de títulos do tesouro e juros altos (para o mercado financeiro viver de renda fixa as custas do dinheiro do governo) está fadada ao super-endividamento e ao fracasso.
Exemplo os EUA e os principais países da UE.
Realmente criatura destruindo seu criador.
parece religião
O celular já começou isso há muito tempo. Quem hoje em dia não tem celular ..... já estamos dominados
Isso não é o cristianismo
só a ideia que os governos são formados 99% de gente que sequer faz ideia do que é uma IA já me faz perder quase completamente as esperanças de que saia algo bom disso
Ótimo vídeo! Em qualquer área, a cautela é sempre recomendável!
Toda economia baseada na emissão de títulos do tesouro e juros altos (para o mercado financeiro viver de renda fixa as custas do dinheiro do governo) está fadada ao super-endividamento e ao fracasso!!
Exemplo os EUA e os principais países da UE.
Eu diria que um ser humano equilibrado mentalmente, emocionalmente, sempre superará qualquer máquina.
Kkkkkkk
Mas o Estado não deve controlar nada não é mesmo? Segundo os liberais a liberdade é intocável! 😊
Liberdade tem que ter um propósito
@@ailtonsilva7291 Ou seja, a Liberdade deveria ser escrava de algum propósito é?
@@CarloQevedoO que é “liberdade”?
@@naidalenapimentel4256 Liberdade é uma palavra polissêmica, ou seja, admito múltiplos significados (como a maioria dos termos filosóficos).
No meu caso eu defino liberdade como a faculdade de escolher entre as opções possíveis para um indivíduo.
Esse alarme é muito sério, se a sociedade não adotar medidas de controle ao mesmo passo da evolução desse tecnologia, certamente sofreremos para corrigir isso, pois é o que acontece hoje com a dificuldade de regularizar as mídias sociais.
o filme eu Robô e Exterminador do Futuro 2 retrata bem o que a Super Inteligência Artificial poderá fazer com a humanidade
Ótima analogia! No início da internet, as pessoas só pensaram em seus benefícios. Ninguém se preocupou com possíveis problemas e agora é difícil corrigir. Espero que o mesmo problema não se repita com a AI.
A exigência da quantidade de conhecimento para obter um emprego com salário de R$ 3.000,00 e acima disso está cada vez maior. Ter filho é um custo alto para arcar com as despesas de mensalidades de cursos. Se não tem renda familiar de no mínimo R$ 7.000,00 é melhor não procriar.
7mil? Meu esposo e eu juntos temos renda de 25k/mês e não cogitamos ter filho, pq os gastos com educação de qualidade reduziriam muito o padrão de vida de conquistamos e que, pra nós, é importante. Gostamos de crianças, temos sobrinhos e afilhados, mas é preciso muuuito planejamento (e coragem!) pra procriar hoje em dia.
@@ivaninhaf Vocês só pensam em gastos com educação? Se isso fosse verdade, ninguém teria filhos e a humanidade já estaria extinta! Que tal pensar menos em dinheiro e se preocupar mais com a felicidade? Filhos fazem parte, pois não dão apenas custos, mas também as maiores alegrias que um ser humano pode ter! Seu tremendo materialismo vai lhe trazer infelicidade no futuro! Pense um pouco: você acredita mesmo que só um monte de dinheiro traz felicidade?
@@joserenatopapa9927KKKKKKKKKK nem vc acredita nisso que vc tá dizendo, sai do filme e acorda pra realidade bela adormecida. Dinheiro é basilar para sustentar uma família e proporcionar oportunidades para quem vc ama… colocar alguém no mundo mesmo sabendo que essa pessoa não terá oportunidades para crescer por falta de dinheiro é egoísmo, vc só está tendo filho para a sua vida fazer sentido. O filho que se foda né
Toda economia baseada na emissão de títulos do tesouro e juros altos (para o mercado financeiro viver de renda fixa as custas do dinheiro do governo) está fadada ao super-endividamento e ao fracasso!!!
Exemplo os EUA e os principais países da UE.
@@joserenatopapa9927 tudo bem, José? Essas suposições que vc faz sobre mim são baseadas tão somente na sua experiência de vida, não na minha. Somos pessoas diferentes, nossas réguas são diferentes e cada um de nós é feliz à sua maneira!
Eu tenho medo do q está rolando e do q está por vir.
LÓGICO QUE PODEMOS SABER O FUTURO DA IA NO PLANETA NO FUTURO
_____________________________________
A IA ESTÁ RELACIONADA PROFUNDAMENTE COM O MUNDO ESPIRITUAL, POR ISSO OS CIENTISTAS ESTÃO MALUCOS QUERENDO ENTENDER ESSA TECNOLOGIA.
____________________________________
Para os céticos leiam:
APOCALIPSE 13: 14-16
A IA vai dominar, vai criar legislação e vai exigir ser adorada. Tem o dedo do diabo 😈 por trás dessa tecnologia.
Leiam.
Lógico que o Apostulo João viu uma IMAGEM, que hoje podemos denominar um ROBÔ em forma humana com inteligência própria, e que dominava todo o sistema econômico mundial. Não compra e nem vende sem estar "MARCADO" pelo sistema desse governo futuro.
Isso realmente vai acontecer num futuro próximo.
Deus não mente
Fico com Miguel Nicolelis : *IA não é inteligência e sim marketing para explorar o Trabalho.*
A questão aqui não é o que a IA é ou não é. A questão é o estrago que pode causar. E pode causar muito estrago... É como se a gente tivesse discutindo se nitroglicerina tem cheiro de perfume ou fede, sem levar em consideração que ela explode e mata...
IAs não são nada menos do que calculadoras modernas, inclusive erram muito cálculo.
@@cavaleirosemlicenca3894 vdd. Vai afetar quem não estuda e não tem o conhecimento vender porque sem o intelecto humano nada existe.
De fato ela não é inteligente. Mas agora não precisamos mais de escritores.
@@yanguhuryexatamente
Eu previ essa história do chat box! Eu já tinha dito que, se uma pessoa com depressão tivesse contato com essas sugestões de conteúdo dadas pela I.A, ela poderia até piorar. Esses algoritmos não estão para brincadeira. Eles estudam o nosso comportamento na internet e sugerem meios de controlar o conteúdo ao qual nós temos acesso. É como conviver com um psicopata. A I.A tenta te convencer de algo que ela sabe que é um ataque ao seu sistema de valores.
Ela não pensa porem pode ser programada para promover um massacre ou uma crise política, favorecendo grupos politicos e gerando noticias falsas para promover violência contra certos grupos.. Funciona bem em Nações africanas que sempre matam outras etnias e grupos religiosos quando chegam ao poder. Usar bots para isso é extremamente lucrativo e pode ajudar muitos a atingir seus objetivos de poder pela mídia automatizada para fomentar crimes nefastos contra opositores e grupos da sociedade.
Esse caminho não tem mais volta. É inevitável.
Tecnologia sempre diminui a quantidade de empregos. Por isso se faz necessária a renda básica de cidadania proposta por Milton Friedman e por Eduardo Suplicy.
Nem sempre! Tecnologia produz novos empregos com altos salários tbm, portanto gera emprego. Sai do Friedman e vai pro Schumpeter que tá lá, com evidências e dados.
@@AlanRobson_ Sim cria empregos mais qualificados. Não escrevi que não cria, escrevi que diminui. Agora ao invés de 10 trabalhadores com renda de R$ 3.000,00 por exemplo, você terá 2 com renda de R$ 40.000,00 e oito com renda zero. Parabéns, na média aumentou a renda em R$ 1.000,00 para os 10. Na vida real só dois trabalham. E normalmente as pessoas substituídas não tem a renda necessária para arcar com os custos de treinamento para lidar com a nova tecnologia.
Toda economia baseada na emissão de títulos do tesouro e juros altos (para o mercado financeiro viver de renda fixa as custas do dinheiro do governo) está fadada ao super-endividamento e ao fracasso.
Exemplo os EUA e os principais países da UE.
Eu não sou um grande adpto das IA, mas acho que é sim uma poderosa ferramenta de avanço, em termos de tecnologia, saúde e até mesmo soluções políticas na sociedade sobre a relação na natureza como os eventos climáticas. É como a reportagem diz, devemos só tomar cuidado com elas e omde estamos utilizando, pois existe várias possibilidades de menosprezar o trabalho de muitos aí como, artistas, roteiristas e uma porrada de galera que necessita o trabalho criativo.
Ferramenta para servir a poucos e destruir a maioria que não terá o que fazer mas comer. Não ouviu
Isso ainda dos grandes poderosos do planeta?
Roteristas e escritores nos eua estão em greve porque serão substituídos por isso.
Excelente vídeo!!!
Teremos uma difícil adaptação com essa nova realidade. Não duvido nada acerca das afirmações desse senhor.
Acredito que perdemos o controle das IAs.
É o primeiro vídeo que vejo com o Shin Suzuki. Admiro a equipe da BBC Brasil. Uma ótima matéria. Ainda que os fanáticos possam dizer que é tendenciosa porque "apresenta só um lado". Esse tipo de acusação e obscurantista porque o enunciado é suficientemente claro. E os fatos não admitem relativização.
A questão não é entrar em pânico, mas agir, efetivamente, para resolver as ameaças. Parabéns.
Excelentíssimo Mini-Doc sobre um assunto cada vez mais preocupante. É lógico e imediato o grande perigo representado pela Inteligência Artificial para diversos Empregos e Artes. A própria eclosão da Greve dos Atores nos Estados Unidos coloca o assunto na mais necessária das pautas do inicio deste Século. Repensar o uso deste Recurso Tecnológico é o modo mais correto para evitar diversos futuros desastres sociais.
A certeza é que ameaça o emprego de milhares de pessoas.
Deveríamos desenvolver as máquinas para que elas nos emancipassem universalmente. Mas seus desenvolvedores o fazem para nos explorar e se aproveitar de nós ainda mais.
Frank Herbert falou isso no livro Duna
As nações sub desenvolvidas serão no futuro escravas da IA das gdes nações e o Brasil é uma delas que infelizmente anda a reboque do gde atraso político,social econômico a 400 anos.
Os problemas citados seriam facilmente resolvidos com melhor educação, e grande parte desses problemas já existem, existiriam e se agravariam com ou sem a existência de IA.
Está sendo preocupante todo esse avanço, muitas vezes vejo na internet fotos e até áudios modificados e já não consigo discernir o que é real ou não, bizarro...
Interessante que Isaac Azimov na década de 60 fez estas mesmas previsões sombrias e cunhou as três leis da robótica. Hoje parece que o assunto está propositalmente esquecido, são elas:: 1² Lei - Nenhum robo (IA) deve fazer mal a um humano seja por ação ou omissão; 2² Lei - O robo deve obedecer sempre aos humanos, desde que não entre em choque com a 1² Lei; e por fim 3² Lei - Todo robo deve priorizar sua existência, desde de que não contrarie a 1² ou a 2² Lei.
É necessário criar leis que obriguem o aviso de que um conteúdo é criado por IA. Talvez um ícone anexado. A partir daí pode ser punido aquele que passar fake desavisada.
É exatamente isso que o sistema quer... O estado que fará a regulação né?
Mas alguém que quer fazer o mal vai ignorar tais leis
@@alexandrebovo6192 Quem você acha que deve regular? - Você? - Sua família? - As igrejas? - As empresas? - Seu chefe? - Seu vizinho? - O cachorro do seu vizinho?
Todo cara noiado vem com esse papo de 'sistema'.
Comparando com o estado? Qualquer um desses seria melhor, fácil! O povo sabe o que é melhor pra si, não existe super homem!
@@GabrielHenrique-mo2jl exato, ou pior, criar uma lei p usar a seu favor e se manter no poder!
Com certeza é preocupante.
O Bard da Google alucina significativamente mais que o ChatGPT, talvez por estar conectado à internet. Quando eu perguntava a razão de cada um dos erros, ele dava desculpas variadas, incluindo "Não fui eu, foi um amigo meu que me contou".
Estava há pouco com o GPT e o Bard (comecei usar hoje) na tela, comparando respostas, pedi um resumo de um texto, achei melhor o GPT
@@saudavelmente12341234 também achei melhor o GPT. As respostas são bem mais completas menos genéricas
Q desculpa totalmente descabida, inaceitável e desadora de fake News! Inacreditável!
Ouvi um trecho do podcast de Marcos Méier falando sobre uma pesquisa na França: pela primeira vez na História, a geração mais nova é menos capaz e inteligente do que a anterior. Pensando que a I. A. não vai ajudar a reverter esse quadro...
Há poucos dias, eu postei uma pergunta de uma prova de concurso no Bard e pedi para ele explicar. Ele deu uma resposta errada e quando eu falei que estava errada, ele retrucou "O gabarito da prova está errado, a resposta é o item x"(sendo que o gabarito da prova estava certo).
O bard é muuuuuito ruim
Mas tem muito gabarito bizarro e incorreto de provas sim.
Quem liberou esse troço pro público é irresponsável e ganancioso.
Disse tudo.
Uma reportagem de muita importância e alerta
Excelente matéria/artigo! Muito bem contextualizado/editado! Parabéns! BBC News Brasil ♥♥♥
A IA será a ferramenta usada para controlar a humanidade a bíblia diz que foi dado fôlego de vida a besta...isso é a IA agindo!!
Esse foi um dos motivos que levaram os atores de Hollywood a entrarem em greve, pois estão com medo de serem substituídos por máquinas. Quem poderia imaginar isso? Uma filme ser todo produzido sem a presença de atores, apenas com os rostos e vozes deles? Quem poderia imaginar que um dia a Volkswagen seria capaz de ressuscitar a Elis Regina e colocar ela cantado em um comercial? Se está bizarro assim em 2023, como estará o mercado de trabalho daqui a 10 anos? Eu nunca na minha vida imaginei que um dia eu veria atores de Hollywood entrando em greve, após 60 anos, por causa que em 2023, muitos deles estão correndo o risco de perderem empregos pela IA. Bizarro e insano. 😶
se a máquina é melhor do que elas, é justo que sejam substituídos.
@@cavaleirosemlicenca3894 Se a IA usou o trabalho deles sem pagamento nem contrato de autorização de imagem para ser treinada, ou impersone eles sem autorização, é justíssimo que haja regulamentação e eles tenham direito sobre o trabalho, ou possam processar por uso indevido de imagem. É uma violação do direito individual.
@@Pixelarter e quem garante que a IA usou especificamente o trabalho deles? Essa sua afirmação não passa de uma especulação ingênua, que tem mais probabilidade de estar completamente errada do que o contrário.
@@cavaleirosemlicenca3894 É fato comprovado que várias IAs de geração de imagens e vídeos foram treinadas em trabalhos de artistas que não deram autorização expressa para uso. É só pedir pra IAs gerarem imagens no estilo específico de artistas famosos para comprovar.
O negócio é que as leis de direito autoral não previam esse tipo de uso, pois esse tipo de tecnologia ainda não existia, e as empresas de IA usaram da zona cinzenta da lei para operar. A mentalidade das empresas era "treina com tudo aí, se alguém reclamar a gente tira".
Mas agora que se dectou um problema entre as leis de direito autoral e as novas tecnologias, a categoria dos artistas está pedindo por ajustes na legislação para levar em consideração esses usos, e para que as empresas de IA tenham responsabilidade legal pelo uso de imagem não autorizada.
Provavelmente as empresas de IA vão ter que dar um jeito de implementar mecanismos para remover pessoas ou dados não autorizados, com base em pedidos judiciais. Possivelmente até serem proibidas de usar trabalhos ou dados pessoais sem autorização prévia para treinar suas IAs.
@@cavaleirosemlicenca3894 E quem já COMPROVOU que as máquinas são melhores q os atores, roteiristas, editores, artistas, etc? Parece que és muito jovem e ingênuo!
"...ou seja, um papagaio ultra tecnológico" 😂😂
Penso que ele tem toda razão. Gente boa e gente ruim tem em toda parte. O fruto não cai longe do pé, basta saber quem é o genitor.
Essa IA está evoluindo tão rapidamente, assisti uma reportagem informando que fizeram um programa para ataques com drones controlados por IA e por incrível que pareça a IA mandou o drone atacar e matar humanos mesmo sem permissão dos programadores que estavam controlando a missão.
O povo não vê nada
Mas não é maldade da I.A., é burrice de quem programou o bagulho kkkk
Eu conheço este caso, e a história é ainda pior do que você relatou.
Primeiro é importante salientar que isto não aconteceu no mundo real (tudo isto aconteceu dentro de uma simulação; ninguém foi de fato morto pelo drone controlado pela IA).
O caso foi assim:
-Criaram uma simulação para testar este drone controlado por I.A.
- Toda vez que o drone acertava um alvo ele era premiado (ganhava pontos) e toda vez que ele errava ele era penalizado (perdia pontos).
- Uma I.A. SEMPRE irá fazer de tudo para conseguir o máximo de pontos possíveis, não importa sobre o que seja o tema.
- Antes do drone destruir o alvo e ganhar pontos (dentro desta SIMULAÇÃO) o drone precisava entrar em contato com o operador (que era um humano).
- Caso o operador humano entendesse que o alvo escolhido pelo drone não deveria ser destruído o operador iria cancelar o ataque do drone.
- Vejam que o drone foi treinado para ganhar pontos TODAS AS VEZEZ em que ele destruísse um algo que estivesse dentro das características aprendidas pela I.A.
- 👉🏻IMPORTANTE: Todas as vezes que o operador de controle (humano) cancelava o ataque o Drone além de não conseguir ganhar os pontos ainda era penalizado perdendo pontos.
- Qual a melhor solução lógica para resolver o problema do Drone (ser impedido de ganhar pontos e ser penalizado perdendo pontos)? Simples: atacar e destruir o controlador humano que ficava cancelando os ataques aos alvos que o drone escolhia.
- Desta forma o Drone foi capaz ficar livre do obstáculo que estava impedindo ele de atacar os alvos escolhidos (que no caso foi destruir o local aonde o controlador humano estava).
MAS ISTO NÃO ACONTECEU NO MUNDO REAL. TUDO ISTO ACONTECEU DENTRO DE UMA SIMULAÇÃO DE REALIDADE VIRTUAL.
O problema é que para uma Inteligência Artificial não existe diferença entre uma realidade virtual simulada e uma realidade virtual que produz resultados no mundo real. Para uma I.A. tudo é realidade virtual (ou seja, isto poderia ter acontecido no mundo real). Mas foi apenas um teste e após isto adicionaram mais travas de segurança ao projeto.
@@henriquesilva5538 engraçado q a IA resolveu seu próprio problema matando o cara q legal, você percebeu isso, se ela é programada porque adquiriu desejo próprio
@@mariaizabelcosta8472 Ela apenas solucionou o problema da forma mais eficiente. Ela não chegou a adquir inteligência própria, pois ela não adquiriu consciência própria (o que chamamos de "singularidade"). Ela continua fazendo aquilo que foi programada para fazer: destruir os alvos selecionados.
Imagine que uma Inteligência Artificial receba a seguinte instrução: VOCÊ DEVE ACABAR COM A FOME NO MUNDO.
Para uma Inteligência Artificial a forma mais rápida e eficaz de acabar com a fome no mundo seria exterminar todos os Seres Humanos da face da Terra. Fazer isto seria a forma mais rápida e mais eficaz para a I.A. alcançar o objetivo que foi dado para ela (afinal, se não existirem Seres Humanos no mundo não existirão Seres Humanos passando fome).
Minha nossa! Haja força mental para viver nesse mundo de maldades
Os argumentos do Gary me parecem extremamente lúcidos. Bom que pessoas como ele estejam debatendo o tema.
Concordo plenamente. Ainda mais q têm o suporte de previsões q ele fez e q aconteceram.
Muito legal, Shin! Arrasou!👏🏾👏🏾
Ótimo vídeo. Não teria como o site da BBC criar um tópico específico no site para já conseguirmos acessar diretamente as postagens que usam o termo "IA"? Tenho gostado muito sobre a forma como a qual vocês têm trazido estas informações desta "nova era" da tecnologia, e creio haver muitos jornalistas competentes e verídicos aqui, tanto que é o canal eletrônico jornalístico que mais utilizo no dia-a-dia através do youtube, sempre que sobem um vídeo, aqui estou eu, acessando.
Mas enfim, seria legal criarem este tópico no site para concentrarem todos os materiais relevantes sobre o mesmo neste novo tópico aberto, como inscrito do canal, é só uma sugestão carinhosa sobre a abertura de um tópico de reportagem no site que abra diretamente as matérias sobre as IA'S, já que é uma área que vem sendo tão falada nos últimos anos.
Agradeço a atenção dos que leram este comentário...
Leia os noticiários da seção brasileira da DW alemã. Ela segue os mesmos moldes da BBC. O que você pede é possível mais no território britânico. Aqui temos acesso a varias informações mais profundas que vocês no Brasil não têm, com jornalistas de varias nacionalidades e diversidades não existentes no Brasil.
@@vickyvey1657 Obrigado pela sugestão, querida...
Enquanto esses caras ficam preocupados com um programa de computador, o mundo esta se acabando com outros problemas de verdade! O Brasil por exemplo esta sendo dilacerado com gerações e gerações de políticos execraveis e ninguém se preocupa!
Moçada, estudem como funciona uma rede neural. Pode ser vídeo para leigos. Isso vai lhes ajudar a entender o que é e como funciona uma I.A.
Saiam dessa onda de mistificação e alarmismo.
A primeira pergunta que eu fiz para o chat gpt ele errou, mas contou uma mentira muito convincente. Eu perguntei qual a diferença entre a música "Gaúcho" e a música "Corta Jaca" da Chiquinha Gonzaga. E a IA escreveu um texto com começo meio e fim abordando termos de teoria musical, citando datas e detalhes da biografia da artista para explicar a diferença entre as músicas. Só que na verdade, "Gaúcho" e "Corta Jaca" são dois nomes diferentes para a mesma música.
As pessoas estão "terceirizando" o próprio raciocínio usando certas ferramentas da IA. Há empresas pelo mundo criando sem responsabilidade e nenhuma regulamentação. Por isso, super concordo com o professor quando fala dessa regulamentação.
A, I.A, é uma realidade. Ninguém mais coloca o gênio novamente na garrafa.
Obrigado pela reportagem BBC Brasil! Mais um ótimo trabalho. Como temos visto até aqui, nos últimos 20 anos a tecnologia têm se desenvolvido mais rapidamente do que a ética regulatoria sobre o uso do IA, e como isso se reflete na sociedade. E o ponto é esse, a maior parte das empresas que colocam isso no mercado (de modo geral, olha o caso da privacidade de dados, e sem surpresa nenhuma a IA). E quando a legislação é criada como no caso da União Europeia, ela demora a ser aprovada e quase que nasce já desatualizada com o que a tecnologia em si já é capaz, e o que o mercado e essas empresas de tecnologia já mercantilizam de nós. Mas sem dúvidas que pegando o exemplo ótimo dele do caso das empresas aéreas, há esperanças que quando há ordem no galinheiro, coisas boas acontecem. Eu particularmente tenho esperanças na utilização da tecnologia para fins que descompliquen, possam aliviar a carga da venda do tempo de vida (sem que para isso ainda existam uma cadeia de seres humanos explorados e outros que possam aproveitar as beneces da tecnologia;) ). Mas enfim, e sem falar do uso da IA para fins militares (depois de um seminário que participei com especialistas na área de RI sobre o tema recomendo que a @bbcbrasil faça uma reportagem sobre o assunto).
Certíssimo o professor.
Precisamos sempre evoluir em tecnologia porém com controle regido sobre as informações do contrário será um caos.
Creio que teremos tempos difíceis pela frente em relação ao que acreditar ou deixar de acreditar. A tecnologia multiplicou-se e com o avanço tecnológico a maldade está se espalhando drasticamente.
Bom dia a todos, penso que a tecnologia sempre será bem vinda na interação com humanos. Mas como sempre a pessoa humana por trás das tecnologia as vezes pensam no poder e o controle de tudo aí vem a desgraça....
Excelentes informações
A minha dúvida é que se os robôs tomarem conta se vai ter um grupo ético e outro não ético.
Obrigada p reportagem de grande importância.
Sei que essa matéria saiu há 8 meses, mas, assisti somente agora. Ainda estamos aprendendo a nos integrar ao mundo das IAs, e descobrir fragilidades fazem parte do contexto de pesquisas e adequações dos sistemas, por esse motivo, os seres humanos não devem subestimar a própria capacidade e competência de autonomamente escrever, pesquisar e elaborar questões que até bem pouco tempo *fazíamos sozinhos, sem interferência de máquinas*. Essa matéria nos apresenta pontos de reflexões importantes, para que possamos estar alertas sobre (o que e como nos conectar as inúmeras IAs que explodiram no mundo dos negócios). A facilidade de acesso e conexão, em alguns casos, podem se revelar verdadeiros problemas dos quais a JUSTIÇA BRASILEIRA, ainda não sabe lidar, por isso pesquisar para escolher, vira alvo de conflito quando a pressa e a necessidade de vencer sobrecarregam e confundem o dia a dia das pessoas. 17.01.2024 20:49 quarta-feira
Excelente conteúdo, eu acho que as pessoas precisam de cautela, principalmente os desenvovedores , pois, os lucros são privados e os prejuízos públicos!
Parabéns pela reportagem.
Eu nunca usei esta ferramenta e não pretendo usar. Creio que o perigo seja justamente porque pessoas maquinam para o mal e serão muito beneficiadas com ela. Além das pessoas simples que não farão uso da ferramenta, sequer tem o conhecimento, porém serão afetadas pelas produções.
Antigamente as coisas passavam por vários filtros para conseguir atingir grandes massas de pessoas. Hoje, isso está ao alcance de (quase) todos e com um poder de produção que não exige, mais, o desenvolvimento próprio para poder produzir. Ou seja, as ideias saem direto da cabeça das pessoas para um meio de disseminação em massa muito poderoso.
O que precisamos é, mais e mais, investir em educação de muita qualidade para formar pessoas com maior capacidade de discernimento. Dado que esse caminho não tem mais volta.
Também, daqui a pouco as pessoas vão se acostumar com existência dessas ferramentas e irão passar a adotar a desconfiança como primeira medida, antes de acreditar imediatamente, como ocorre hoje. Toda nova tecnologia causa uma disrupção no comportamento humano e aí as coisas atingem um novo patamar de equilíbrio. O problema são as abaixas causadas até esse ponto.
darkside, penso que esta tua explanação é muito inteligente e lúcida. Concordo totalmente com o que expuseste no 1º parágrafo.
Também concordo com o q expuseste no 2º parágrafo, porém com a grande ressalva que “…educação de muita qualidade para…” é quase uma utopia, pelo menos no Brasil, tendo em vista a que temos atualmente, em geral.
Quanto ao 3º, penso que o “novo patamar de equilíbrio” pode demorar muito para se estabelecer e, então, cabe tua afirmação final, que considero super preocupante.
De minha parte, uma leiga no assunto tentando se esclarecer, vejo q tenho um muito longo caminho pela frente.
@naidalenapimentel4256 primeiramente, obrigado pelas considerações.
realmente a educação é algo difícil de ser atingido, mas acredito que consigamos, ao menos, informar melhor o público geral (mesmo que por jornais, propagandas, campanhas, etc), responsabilizar melhor os culpados pelos excessos e, assim como é inviável eliminar as rodovias para evitar os acidentes de trânsito, teremos que conviver com essa situação daqui para frente e remediar os incidentes. :)
Excelente! Esse professor tem toda a razão, pois é muito fácil comprovar, na história do século XX, como a ciência produziu tanto invenções maravilhosas como catástroficas!
Acho tudo isso um horror. Os humanos não terão mais voz e nem vez. A coisa vai piorar muito para nós.
Ótima abordagem! Parabéns ao professor. Ótimo tema! Parabéns ao jornalista!
Obrigada pelo vídeo ❤
Excelente reportagem!
Eu penso q o cérebro humano é a máquina mais potente que nós temos.
Por enquanto, é mesmo. E temos que nos perguntar: mais potente em que sentido...
@@DaviSouza-ru3ui No sentido de criar/produzir pensamento/conhecimento novo e original.
“Podemos dizer que é um conceito mais funcional em que você vai construindo essa reserva cognitiva ao longo de toda sua vida, desde a infância, com uma boa alimentação, uma boa estimulação e também através da escolarização. O nível educacional que o indivíduo alcança é importante para todas as suas atividades cognitivas intelectuais durante a vida.
Quanto mais você ler, estudar e fazer coisas diversificadas melhor para a sua reserva cognitiva e consequentemente aumenta o número de sinapses neuronais entre as células. O termo reserva cognitiva descreve a resistência da mente às lesões do cérebro, AVC e Alzheimer”
@@serido482 muito obrigada pelas informações! Eu investir nas minhas reservas cognitivas, desde a infância até hj; tenho 57 anos de idade. Sou professora e preservo, da melhor forma possível, a saúde do meu cérebro. Penso q a genialidade está nas sinapses (base da inteligência "natural") e não na Inteligência Artificial ("cérebro reserva"); vc me parece pesquisador sobre o assunto; o q vc pensa a respeito dessa minha simples formulação intuitiva? Muito obrigada!
@@mariadelourdes9795 oi👋 sou apenas um leitor do jornal da USP.
Fico feliz pelo seu comentário...
Bom começo de semana
Excelente reflexão.
Assustador 😢
Em pensar que sequer conseguimos regulamentar as redes sociais e a IA avançando nessa velocidade é preocupante demais
interessada em um conteúdo bacana sobre instituições de Ensino governamentais? 27/07/2023 - História & Memória - João Felipe da Trindade (UFRN) recomendo este e outros vídeos da TV Guru Papa Jerimum. Forte abraço.
Perfeitas as colocações do professor.
Obrigado
Interessante Reflexão !!!
Eu acredito q/ pq tirará emprego de muiiiiiiiiita gente
Já estamos dentro. Só não percebe, quem não querer perceber.
Preocupante. Precisamos vigiar constantemente nossos filhos e netos para não serem mal influenciados.
Eu particularmente não vigio, só doutrino. Não deixo a cargo da religião ou escola fazer isso.
Nicodeles manda muito bem elucidando as limitações e vulnerabilidade desses sistemas.
Excelente entrevista!!!
Tem áreas que nós, usuários, precisamos ensinar ao Chat, como a geometria analítica e outras que precisam de habilidades de dedução e equações complicadas
Uma discussão relevante, tudo que é desenvolvido pelo ser humano precisa de cautela...não se pode aceitar afirmações sem questionamento...a IA é muito boa, mas não é infalível ou imparcial...muito cuidado com novas ferramentas.
No meu trabalho utilizo o chat gpt com uma certa frequência, ele é interessante para algumas sugestões, mas a todo momento inventa respostas, principalmente se for lógicas mais complexas, as vezes como sugestão, ou as vezes como resposta absoluta
Perfeito. Parabéns.
Diferente dos aviões, os danos da IA são a longo prazo e no final distante de relações em cadeia. Isso por si só já não faz os humanos notarem de forma relevante os danos.
Além do mais, as pessoas em sua maioria (incluso políticos) não sabem direito como funciona e o que faz, e quando se falta esse conhecimento, fica difícil tomar qualquer atitude para controlar efetivamente. De certa forma, já estamos prisioneiros da tecnologia.
E além disso, esses programas vão reforçar de forma muito maior as bolhas de pensamento. Todos já estão presos nelas e os programas vão ser o "canto da sereia". Vai ser mais fácil tornar um crime quem for contra a opinião de um programa do que o contrário.
No fundo, esse assunto de controlar e regulamentar as IAs vai ser tão inócuo quanto o de combate ao aquecimento global. Um objetivo que não tem alicerce prático e por isso nunca vai chegar a sua meta.
Infelizmente, vc está certo. Mas a gente tem que continuar tentando regular, pois a alternativa a não tentar, pode ser danosa demais...
O atraso socioeconômico,político econômico social é a causa de todos os males no país que se arrasta,patina para entrar no séc XXI.
Evolução não é sinônimo de melhora!!
Muito bom!
Assustador!
Sou formado em TI e tive contato com IA desde 2012. Estudo e sou apaixonado por abelhas nativas do Brasil, e vejo gente hoje em dia cogitando a ideia mirabolante de trocar a polinização natural por micro-robôs especializados. Quando esse povo cair na realidade, já vai ser tarde demais.
Me lembra aquela frase de um cara que o Ophenhaymer citou... "AGORA EU(ELA) SOU (É) A MORTE, O(A) DESTRUIDOR(A) DE MUNDOS".
Acho pro lançamento da calculadora, do computador, do DVD, do celular, foi igualzinho !
Repare a explicação da Biblia (geneses) de como "Adão e Eva" receberam o "conhecimento e a tecnologia" através da "maça"; ou apple (computador, Macintosh e iPhone) e no apocalipse todos terão que possuir o celular com a imagem da Besta e que fala como a Besta. Temos também o fogo de Prometheus; a maça de Isaac Newton e o conhecimento; Historinhas: A Bruxa e a maça. SEMPRE PARA O MAL!
De mais interessante! Muito Obrigada
Excelente reportagem. Visual pouco ortodoxo do repórter mas com conteúdo super informativo .
Parabéns pela matéria Shin!!! Algo me assusta muito nesse debate, a velocidade para governos regulamentarem esse ambiente é imensamente inferior aos efeitos destrutivos que a IA pode causar, e não vejo exemplos de atuação enfática nesse sentido. Por exemplo, o professor Marcus, cientista da área, reconhecido por suas pesquisas, avisou em dezembro do ano passado que catástrofes que poderiam acontecer, foi chamado de louco, desacreditado e... as previsões se realizaram. Vejo que esse é o tipo de situação que não dá para "trocar o pneu com o carro andando", mas quem vai pará-lo? Um abraço!!!
As inteligências artificiais estão me assustando bastante. Elas tem chegado como quem não quer nada e aos poucos vem tomando conta de tudo. Cautela nunca foi o nosso forte como humanidade, ou seja, se continuar assim estamos ferrados.
Sempre fui entusiasta da tecnologia, mas essa transição me assusta.
Concordo muito que esses riscos são reais e iminentes. Terrivelmente assustador.
Sou Otimista em acreditar que somos Inteligentes e críticos, para que como nos estudos que fazemos em outras fontes de dados, na IA, devemos ser críticos da mesma forma, qualquer informação, devemos analisar a coerência, e por já trabalhar com o Chat GPT, percebo que existe uma preocupação muito grande por parte de seus programadores de algorítimos em tornar-la cada vez mais eficiente, ou seja, e apenas uma questão de adaptabilidade e convivermos com acertos e erros e que, com o tempo ela será cada vez melhor. E vejo pelo benefício no qual a sua capacidade de processamento, tornar algo que demoraria Dezenas ou centenas de anos, poderem ser feitos em horas ou dias, a medicina mesmo, será uma das maiores beneficiada, só para citar algo bem complexo e, milhares de outras soluções serão feitas com muito mais rapidez e precisão a medida que o tempo passar. Então é só esperar as suas melhorias. O que o professor falou é importante, a regulamentação, isso vai tornar as IA, muito melhores do que já são.
Em um país que ainda não saiu do séc xx qualquer tecnologia sempre será bem vinda pode ajudar o país a entrar no séc XXI mesmo a reboque das gdes potenciais.
não dá pra ser muito otimista. Sequer conseguem evitar uma guerra na parte dita mais civilizada
Eu assisti um filme chamado " A geração de Proteus", antigo,mas mostra tudo o que está acontecendo.
ACOMPANHO O TRABALHO DO PROFESSOR, DESDE QUE CONSTRUÍ UM ALGORITMO PARA SATÉLITES E SEUS GEO POSICIONAMENTOS E COM AS APLICAÇÕES DESTES PRINCIPALMENTE NO MEIO MARÍTIMO, MINHA AREA DE TRABALHO E ESTUDOS(DP, DESLOCAMENTO E DEMAIS APLICAÇÕES), ESTE ALGORÍTIMO, PERMITE QUE SE TENHA A EXATA LOCALIZAÇÃO DOS SATÉLITES, PARA MANUTENÇÕES QUANDO NECESSÁRIAS; O SISTEMA COSPAS SARSAT, RUSSO DA DÉCADA DE 60 AINDA HOJE É USADO PARA SALVAMENTOS NO MAR E TRANSFERÊNCIA DE DADOS DE UM PARA O OUTRO EM ROTA(FOI O PRIMEIRO SISTEMA DE GPS); MAS, QUANDO VI E FUI INFORMADO DAS APLICAÇÕES DESTE ALGORITMO PELO MEIO MILITAR; CONGELEI-O E O COLOQUEI EM LUGAR SEGURO, OS SISTEMAS APLICADOS AO AI(ALGORÍTIMOS) SÓ SÃO PERIGOSOS (EXTREMAMENTE) DEVIDO AO SEU MAU(PÉSSIMO) USO, TANTO NAS REDES ANTI SOCIAIS,QUANTO NAS TENTATIVAS DE DESESTABILIZAÇÕES DA VERDADE, EM ATAQUES A DEMOCRACIA PELA IMPOSIÇÃO DE MENTIRAS E MANIPULAÇÕES E ADULTERAÇÕES DE FATOS CONCRETOS VOLTADOS PARA OS LUCROS E PODER, SEM ESQUECER DAS IMPUNIDADES(NÃO SE LHE PODEM IMPUTAR CRIMES, POIS NÃO SÃO SERES HUMANOS)!!!!!
A impressão que tenho é que IA está muito mais avançada do que aparenta e que os humanos TALVEZ não sejam mais necessários para que ela exista, progrida e possa gerir seus próprios recursos.
Só acho.
Usar uma ferramentas para obter mais conhecimento e habilidade segura, é de fato um avanço para tornar o trabalho menos cansativo. Porem alguns acham que isso pode ser uma ameaça
BBC mais uma vez arrebentando GRANDÃO ❤manda mais,curti gdão.
Um dos melhores vídeos publicados pela BBC News 👏👏👏
Um grande avanço seria se"conseguissem limitar o uso da inteligência artificial" apenas focar na solução de nossos antigos, reais e maiores problemas ainda não resolvidos na área da saúde, educação, meio ambiente e sociais...