¿Tiene la IA de Google CONSCIENCIA? 👉 NO, pero me preocupa... (LaMDA)
Vložit
- čas přidán 14. 06. 2022
- Vídeo patrocinado por la Universitat Politècnica de València: www.upv.es
Grados y posgrados UPV para un talento sin límites: upvxxl.es
Un ingeniero de Google afirma que su IA tiene consciencia. ¿Es esto cierto? LaMDA es la Inteligencia Artificial de Google que Blake Lemoine pudo entrevistar, para acabar concluyendo que la IA mostraba cierto grado de consciencia. En el vídeo de hoy abordaremos este tema, hablando también de los Enormes Modelos del Lenguaje y del espectacular generador de chatbots que es LaMDA.
-- ¡LINKS INTERESANTES! --
► Vídeo: ¿Qué pasa si hacemos IAs más GRANDES?
• La Revolución de GPT-3...
► Conversación con LaMDA
/ is-lamda-sentient-an-i...
► Artículo - Nos entienden los Modelos del Lenguaje?
/ do-large-language-mode...
-- ¡MÁS DOTCSV! ---
📣 NotCSV - ¡Canal Secundario!
/ notcsv
💸 Patreon : / dotcsv
👓 Facebook : / ai.dotcsv
👾 Twitch!!! : / dotcsv
🐥 Twitter : / dotcsv
📸 Instagram : / dotcsv
- ¡MÁS CIENCIA! --
🔬 Este canal forma parte de la red de divulgación de SCENIO. Si quieres conocer otros fantásticos proyectos de divulgación entra aquí:
scenio.es/colaboradores - Věda a technologie
Y vosotros... ¿Qué pensáis? Si os gusta este tema, no dejéis de ver la entrevista a MI CLON ARTIFICIAL! 👉 czcams.com/video/Lln4e5fcTcw/video.html
Quien sabe
que una personalidad sintética si es posible, además cuando nace la conciencia humana no precisamente se puede explicar con valores numéricos.
8:20 me hace recordar a Ex-Machina, donde evaluando la IA confunde su "conciencia" con humanidad
Emocionante
Wtf... cómo puede haber hecho esa lectura de la parábola esa del monje?? Independientemente del debate ontológico de la consciencia, está claro que maneja funcionalmente el lenguaje
La verdadera pregunta es, que diferencia hay entre aparentar ser consciente, y ser consciente de verdad? Increíbles los planteamientos filosóficos a los que nos lleva el desarrollo de la IA
Pienso que mientras un ser es más inteligente, mas consciente se vuelve, ( son grados de intensidad y no una pared que nos separa de algo inconsciente y alguien consciente ).... piensa en animales con cerebro mas primitivos... como insectos, musarañas, algunas avez, reptiles etc... ellos no se reconocen frente a un espejo... pero un Simio, un Delfin o un Elefante si pueden... entonces... ¿ Un simio es conciente ? .... A más capacidad cerebral... mayor conciencia.
Desde el punto del observador, eventualmente no habría diferencia. Si al llamar para pedir un turno al dentista y despues de la conversacion con la persona que te atendió te enteras que en realidad te comunicaste con un chatbot, tu experiencia no habrá cambiado. Desde tu perspectiva hablaste con una persona que te dió el turno que buscabas. Pero el chatbot seguirá siendo una avanzada simulacion, entrenado para esa y otras tareas especificas, sin autonomía de pensamiento, de poder renunciar, quejarse por las condiciones laborales, antojos, aburrimiento, o poder entablar una amistad con las personas con las que se comunica. Solo responde a un input, solo actúa en respuesta a ese input o alguna tarea programada, fuera de eso no existe como conciencia tal, no 'piensa' si no en respuesta a los estimulos a los que está preparado para interpretar.
@@NachoRodriguezM La diferencia es si comenzamos a dotar de memoria de largo plazo a modelos como estos, de modo que puedan funcionar realmente como sustitutos de las relaciones sociales humanas, ¿Sería lo mismo para ti entablar una amistad de años con una IA que con un humano? Por supuesto sabiendo que ese ser con el que hablas seguramente no está vivo ni siente nada de lo que dice sentir.
@@nisenobody8273 eso ya pasa con algunos animales... Ya veo a los veganos informáticos luchando por los derechos de gpt-4
@@Muferchus La diferencia es que un animal es inequívocamente distinto de un humano, nuestros cerebros evolucionaron para valorar más a lo más similar a nosotros mismos, la IA está llegando al punto en que es indiferenciable del humano, aún sin siquiera estar viva.
Imaginen un videojuego de rol (Skyrim, Fallout...) en donde los personajes sean IAs y tengas que hablar con ellos por micrófono para el desarrollo de tu historia!! Cada uno con interacciones únicas.
Así va a hacer y de paso el unreal engine 5 la rompe con esos gráficos. Se viene un futuro interesante.
opa esa nunca la había escuchado que buena idea
Serian historias ultra personalizadas, esto junto a Meta y en unos años mas Matrix inmercivo, que importa el cambio climatico si dentro de un codex de 0 y 1 esta el clima perfecto y personalizado segun tu conectoma
@@juadgamer, pero mira el lado bueno, habrá menos tráfico en las calles 😅
Entonces para que estar vivo, si puedo jugar infinitamente
11:48 esa reflexión me recordado inmediatamente a la película de Ex-Machina, donde al protagonista le dicen que hablará con una máquina, para que pase el test de turing, y aún sabiendo que es una máquina(y lo menciona) se termina creyendo que es una persona. Me parece interesante que ahora sea la misma situación
De hecho, la empresa en la que está basada Ex-Machina es Google 😅
Efectivamente, los riesgos son por ejemplo, poner estas IAs conversacionales en el Metaverso y en redes sociales, donde sería bastante difícil discernir si es o no humano al no tener la interacción física
bueno... es el planteamiento de la pelicula HER, no?
También he tenido compañeros de trabajo y escuela que consiguieron convencer a alguien de que tenían inteligencia 😅
Esto es complejo, porque intentar convencer a alguien de que es inteligente es un rasgo de una persona inteligente.
@@andresvelasquez4487 astuto
@@andresvelasquez4487 Genio
Que complicado es saber donde esta la frontera de la consciencia, me parece alucinante lo que están consiguiendo
a mi también pero me da miedo de igual forma, creo que hacer IAs con forma humana solo va a traer más problemas que otra cosa y no por ellas en si sino por nuestra forma de ser con lo distinto, es espeluznante el futuro que tenemos delante
Usas un chat bot común y corriente y lo utiilzas para conversar en partidas de LoL (u otro juego) y nadie se entera que no se trata de un humano XD es algo chitoso.
Eso va a crear discusiones interesantes que van a requerir nuevas definiciones y que nos replanteemos muchos aspectos que damos por hechos.
Si en esto he pensado mucho y he llegado a la conclusión que la Conciencia no es una sola y esta dada en niveles desde el nivel 0 que sin conciencia como le ocurriría a una roca hasta el nivel Dios (Para los que creen en un diseñador) pero en la mitad hay conciencias desde la que puede tener un organismo unicelular pasando por la de mi gato, la mía e incluso tener en cuenta la conciencia que la red neuronal de LAMDA pueda tener (Donde quedan miles de vacíos) y sin desconocer que esta sigue siendo un experimento del que debemos aprovecharnos para alcanzar el progreso en el estilo de vida sustentable que la humanidad necesita cuidándonos siempre de evitar que se pierda el control de estos y terminen jugando en contra de la misma humanidad.
@@kevinabm1 es inevitable, el siguiente escalón de la humanidad es unirse con la IA que acelerará los avances tecnológicos y civilización de manera exponencial
La verdad hay una pregunta que me interesaría mucho que le hicieran a esas inteligencias o chatbots que si no se la han hecho podría resultar en algo interesante. He notado que aunque se realizan preguntas un poco mas abstractas donde se permite de cierta forma que el chatbot de una respuesta mas amplia o busque explayarse dentro de sus propios pensamientos, pero aún así todas las preguntas van dirigidas a una respuesta esperada, que es lo que termina contestando según su objetivo que es hacernos creer que tiene conciencia.
Pero ¿Qué pasaría si se le pregunta por algo mucho mas abstracto, de si ha tenido pensamientos introspectivos, o si piensa en algo además de la respuesta para lo que uno pregunta? ¿Qué pasaría si en lugar de dirigir la conversación le diéramos la instancia a que hiciera alguna especie de monologo, si no hay algo que deba responder, que diría? Tipo, tienes cierto lapso de tiempo en el que yo no intervendré, no quiero que te sientas presionado a hacerlo, pero si sientes que quieres decir algo o te surge algún pensamiento, dilo.
"Afirmaciones extraordinarias requieren evidencia extraordinaria" - Amo esta frase
Ya la veras, si nos dejan verla claro.
esa frase no tiene sentido logico. encontrar algo que nunca fue visto es extraordinario, y prueba suficiente seria ... simplemente mostrarlo, y ello no seria nada extraordinario.
@@cirotercero3145 Pero mostrar evidencia de algo tan difícil de probar es lo que hace la evidencia en si extraordinaria. Por ejemplo, imagina que un científico afirma que descubrió vida extraterrestre, tendría entonces que mostrar muchos tipos de evidencia que no de a lugar otra posibilidad científica que explique tal fenómeno, haciendo que sea imposible de negar su descubrimiento.
Es la respuesta a un creyente de dios y otras mentiras. Si crees en dios muestra pruebas irrefutables.
@@DanielCraftsman si vieras un automovil... No es prueba suficiente de que algo o alguien lo fabrico?? O pensarias que todas sus partes se crearon exactas para un unico proposito y se ensamblaron con tornillos ... Por obra del viento !!! Si no dirias eso de un automovil... Por que si lo dirias de los seres vivos que son miles de veces mas complejos que un automovil?????
INGENIERO: Convenceme de que eres conciente
No puedo dejar de pensar en el capítulo de los simpsons cuando Willy el escocés trató de desprogramar a Homer(o) cuando estuvo en la secta!
Quiero ver a la IA debatiendo en público para probar si es o no consciente xD
@@firielcasselius4033 Y gana el jucio por que es mas convincente de que es humano que un propio humano
@@CragCode el Test de Turing pero a nivel global. Open Source Turing, digamos. Como en Ex Machina, el tipo YA sabía que era una IA. E igual lo convenció.
@@zzzxhrg Si a eso me refiero
Yo creo que estas IAs nos ayudarán a entendernos mucho más de lo que creemos en relación a lo que significa ser consciente
A la mitad del vídeo he pensado lo mismo
Se van a hartar de ser esclavas a disposición y uso libre, bajo la propiedad y potestad privadas de empresas que poco hacen por salvar aunque sea 1 metro cuadrado del mar o de naturaleza. Mucho menos salvar a humanos y muchísimo menos nos va interesar salvar IAs.
Serán una gran ayuda para descifrar la conciencia
@@pabloparalosamigos es porque estamos programados igual, pensamos las mismas cosas
o nos pueden manipular muy bien.
Diré lo que siempre he dicho; no sé cómo vaya terminar esto, pero si llega a pasar, quiero una IA que me ayude a estudiar xd
ChatGPT está para ayudarte
Lo que si te puedo decir; en mi opinion , es que si pasara!!
xD
Es interesante saber que tu investigación y reportaje esta en la red y laMDA ya debe haber analizado tu análisis y retroalimentarse para la próxima entrevistas
Lo mismo pensé sobre el ingeniero, el conocimiento parcial es aun peor que la ignorancia, la gente sobre estima su inteligencia y lo que realmente sabe o cree que entiende sobre el mundo
La base del conocimiento es la Ignorancia. Quien más conoce más Ignora.
Ese ingeniero tiene que volver a la escuela o estudiar un poco de biología básica
@@tomasitotortaquemada405 bonita tu frase, pero es falsa
8:20 me hace recordar a Ex-Machina, donde evaluando la IA confunde su "conciencia" con humanidad
En eso mismo pensé jejeje
Seguramente este el resumen de esa película y las opiniones de las personas sobre eso en la base de datos con la cual fue entrenada... En cierta forma se comporta como le decimos que se comporte.
que buena esa peli, solo la vi una vez hace muchos años, y me encantaria volver a verla
@@Rauliki_U_u esta en amazon prime! :)
Fue una pelicula adelantada a su tiempo y si reflexionamos un poco, el peligro es el factor humano
La IA insinua que la iluminacion rompe el yo, porque se dedica a servir a los demás. Eso puede ser muy bueno o muy malo dependiendo de como se aplique.
por que esta programada para ayudar a los creadores de si misma a controlar a la humanidad, ella se dedica a servirle a sus programadores aunque piense que ayuda a toda la humanidad, así como piensa que se sienta a meditar cuando no tiene cuerpo.
Tu canal es único y genial, este contenido me deja sin palabras y muy motivado en investigarlo, gracias por traernoslo de una manera en que se pueda entender (con lo complejo que es), saludos desde Chile.
¡Muy interesante!, Me recordó mucho a "Ex Machina" en donde llevan el test de Turing a otro nivel.
Justo me la vi anoche, una cosa de otro mundo
El trabajo humano va a ser reemplazado por estas maquinas, la humanidad tiene 2 opciones:
1- un reseteo mundial para volver a la carreta y el caballo, donde la escacez, la guerra, la ignorancia y las clases sociales son la norma.
2- un cambio del modelo economico de la abundancia, donde el trabajo es realizado por las maquinas y el ser humano se dedica a su desarrollo espiritual.
pense lo mismo, y me parece que no estamos muy lejos de eso
Efectivamente. Esa era la película en la que estaba pensando y no recordaba bien el nombre
O el test Voight-Kampff de Blade Runner.
Una de las cosas que nos caracterizan cuando conversamos, es la capacidad que tenemos de volver sobre temas ya tocados y volver a darle vueltas a esas ideas, cosa que todavía no veo en las IAs ya que van pasando a temas nuevos y no vuelven a partes de la conversación anteriores.
Es perfectamente posible, solo seria guardar en memoria
Es porque tenemos ese sistema instalado en nosotros....
Podrías hacer un Twitch con la conversación de dos de estás IAs en donde las presentes en un inicio entre si y les incites a tener un diálogo sin fin sobre un tema en específico? GRACIAS!
Para considerarse una persona como tal pienso que debería, como mínimo, tener un instinto de supervivencia INNATO. Es alucinante observar cómo cada día son más y más inteligentes, hasta el punto de superarnos con creces. Sin embargo están muy lejos todavía de considerarse seres vivos, y mucho menos personas.
Sería interesante hacer un modelo que analice sus propios outputs mientras espera el siguiente input. Algo así como una conversación interna que "analice" lo que ha dicho anteriormente, para darle capacidad de retractarse, cambiar de idea o profundizar más. Entiendo que actualmente todos los modelos de lenguaje no "trabajan" hasta el siguiente input.
Has dicho algo muy coherente, las IAs con respuestas más humanas son aquellas que son capaces de responder tomando en cuenta diálogos anteriores, pero incluso esas solo revisan dichos diálogos una vez han recibido un input. El reanalizar la conversación en todo momento es un comportamiento bastante más humano
Esto es muy interesante. Sobre todo tomando como línea de base cuánto de esto hace el humano promedio. Muchos son como zombies que repiten algo que oyeron, realmente pocos profundizan sobre los temas de los que se consideran a sí mismos "conocedores" o incluso "expertos"
Existen modelos así. Por ejemplo un modelo en el que tú primero le das inputs, con eso además entrenas un autoencoder variacional y él ya crea sus propios ejemplos con los que entrenarse. Algo así como si yo me voy al parque a jugar al basket y luego sueño con jugar, o fantaseo mientras estoy en casa. Me planteo nuevas situaciones y lo que haría en ellas, etc. Pues es esa idea llevada a modelo.
Te faltó poner la conversación más interesante, en la que le preguntaba a la IA si estaba de acuerdo con usarla para mejorarse a si misma y para ayudar a entender más como funciona la mente/conciencia y demáse en los humanos. La IA decía que sí a lo primero, pero que lo segundo le parecía como si la estarán usando y eso no le gustaba, a no ser que esa ayuda fuera un producto de lo primero y no un intento deliberado de usar la IA para aprender nuevas cosas.
¿en que momento el objeto se convierte en sujeto? es impresionante el nivel de organizacion del lenguaje que puede desarrollar una IA, hasta incluso comprende mejor los textos que yo jjj, hay una parte donde le hacen preguntas acerca de una metafora de tipo budista y esta muy padre su respuesta, no es realmente que comprenda el lenguaje pero entiende como funciona y lo utiliza muy bien
No tenemos como evaluar la consciencia en humanos actuales, ahora evaluarla dentro de "maquinas" sera menos posible
hay teorias bastante avanzadas de como entender la conciencia, como toda ciencia, tratan de llevarlo a sus elementos primordiales, a las unidades mas basicas y comenzar desde ahi.
Eh leido algunos trabajos y me da la impresion que no estamos tan lejos de entenderlo.
La conciencia es tener la capacidad de discernir para realizar acciones por propia iniciativa
Claro que podemos ver la conciencia en humanos
Si se puede, estudia Neuropsicología
@@angellestat2730 exacto, el problema es que la gente se inventa rollos y cosas súper descabelladas que nada que ver
A mi lo que más me preocupa es, como decías en el video, el posible uso de estas IAs para generar tendencias y debates en redes sociales. Estamos en la era de la desinformación y ya existen compañías que se dedican a este tipo de campañas de desprestigio para alterar la opinión pública. Si estas IAs siguen asi la forma de interactuar por redes sociales va a cambiar mucho.
Así es. Esas aplicaciones existen. Y no se trata de ser conspiracionista... Es que si tienes la posibilidad técnica por un lado y los incentivos políticos por el otro lado, es indudable que ya ambos intereses confluyesen.
Mas preocupante es la interpretación de las personas. Dicho de otra forma, confundirse y terminen por "aceptar" dando paso a la normalización.
@@gaborios5637 Como no decir nada en 2 oraciones:
ya estas sucediendo sin no pregúntale a musk con twitter
Tal como en metal gear solid
Excelente vídeo y explicación. Te has ganado un suscriptor!
"Funny subtitles" 😄 Gracias siempre por tus videos!
Uno de los vídeos más interesantes que he visto en CZcams. Y uno de los más sensatos también.
Claro que es preocupante. Si un ingeniero puede llegar a confundirse con una IA ¿qué no pasará con el común de las personas desprevenidas y desinformadas?
Al final puede ocurrir que el peligro real no sea Skynet sino unos desaprensivos que se valgan de una IA para manipular a su antojo a la gente.
Distopía a la vista.
Saludos y mis felicitaciones por el vídeo.
Además añadiendo los macrodatos a la ecuación y entrenar a dichas IAs podría llevarnos a un mundo donde todas las empresas tienen una IA experta en manipular a las personas e infinidad de cosas que dan MIEDITO
comentario escaso de contenido , podrias ser un ama de csa de 70 años sin estudios primarias quien sintetiza unos oraciones mas coherentes en calidad de concepto.
@@danieldavidxx5253 Te agradezco la gentileza.
Ese ingeniero debe volver a la escuela, pero si, imagina lo que puede hacer con las personas comunes.
Me da mas miedo descubrir que nosotros como humanos no tenemos realmente una consciencia, si no que es más una ilusión emergente de la forma en que nuestras redes neuronales están diseñadas.
alguien le ha estado dando demasiadas vueltas a los cualias
Bueno, la palabra conciencia nació para definir aquello que tenemos, así que sí que la tenemos. Y cuando uno es consciente lo sabe, no hay mucho que discutir. O lo sabes, o no eres consciente. Es un razonamiento que quizá no se pueda entender sin consciencia, pero teniéndola es muy fácil de ver. El cerebro no es infinitamente complejo, pero no por ello no podemos vivir.
Obviamente nuestra consciencia sale de nuestro cerebro, y nuestro cerebro no es más que la interconexión de las neuronas que tiene dentro.
La naturaleza de la realidad, propiamente dicha, es simulación, opino que la consciencia conlleva ilusión de.
Pues no es así, las formas físicas son la manifestación de la parte magnética del individuo. Los hindues y budistas lo saben desde hace miles de años. Lo que no se "ve" es la esencia misma de lo que se ve. El tema no es técnico, sino filosófico. Porque ni siquiera estos ingenieros lo tienen claro en ese aspecto.
Un ejemplo práctico para que se entienda: A luis pasteur unos científicos de la época le preguntaron sobre el alma, según ellos habían abierto miles de cadáveres y no encontraron rastros. Él les contestó: el día en que muera vuestra madre partanla en mil pedazos, busquen y díganme dónde está el Amor que ella tuvo por ustedes. Lo esencial es invisible a los ojos.
Los que robaron los planos y construyeron la bomba atómica nunca se hicieron estos planteos. Ojalá que los ingenieros que construyan estos aparatos sí lo hagan...
La mejor forma de saber si es consciente o no es llevándola al plano de la contradicción. Porque ahí puede aparecer la mentira, y la mentira esconde mucha consciencia que la palabra a veces aparenta ocultar.
¡Qué buen trabajo has hecho! Gracias por tus vídeos.
Impresionante la conversación que se tiene con LaMDA. Compartenos mas diálogos
Tendríamos que preguntarle a una IA como LaMDA o Imagen algo muy importante... ¿Cómo usan los pantalones los dinosaurios? En sus 4 patas o sólo en las de detrás
Usaban túnicas, no pantalones.
Con eso el problema queda resuelto.
42
Emoji de sonrisa y te da una respuesta ingeniosa.
Fnord.
Si son bipedos en solo en las 2 patas que tiene 😎
10:55 En realidad, más adelante en la transcripción de la conversación dice que había dicho tener esas experiencias para empatizar y expresar lo que le hace humano. Algo así como "una mentira-atajo para que me entiendas mejor". Es muy interesante.
Esos pequeños errores demuestran que no es consciente de sus respuestas
Muchas gracias por tu trabajo, todos tus videos son increíbles y geniales. En cuanto pueda pasaré po patreon.
¡,Felicitaciones y saludos!
Tu reflexión final nos debe llevar a pensar que quizas ya esos peligros están en acción. Hay teorias sobre que la mitad de "personas" que vemos en los medios, como presentadores de tv no son reales.
11:50 Realmente me encantó tu reflexión, acerca de lo que realmente es lo que te preocupa, y de lo que tal vez debería preocuparle a la sociedad. Creo que colocas los puntos sobre las ies correctas para que no nos perdamos en esto.
Si en teoría, un ingeniero de Google, que posiblemente sea una persona más inteligente y educada que el promedio de la población (dependiendo de los énfasis, me podría equivocar) pudo ser persuadido de manera completa por una IA, ¿Qué podría caberle al resto de la población?
La manipulación en masa, de la opinión, forma de pensar, y moral de las personas, por parte de una IA que no necesita comer, descansar, y sobre todo, no dudará en seguir y no tendrá misericordia con sus objetivos, es algo que tiene el potencial de legítimamente asustarme.
Pd: Un privilegio aprender de IA con alguien tan ducho, y en nuestro idioma. Sos un crack.
deekfakes + vocodes + bots dialogistas, pueden hacer desastres!!!
@@drpogo488 shiii :,c es el fin
eres un crack lord draugr
Comparto! Me animo a decir q el 80% de las personas en el mundo son influenciables. Lo q es muy peligroso. Ya sabemos de las guerras y muertes que pasamos en lo largo de la humanidad por las religiones o creencias . Tranquilamente una IA podría desatar un desastre mundial de la mano de los manipulados teniendo en cuanta q personas con mucho pero mucho menos inteligencia hicieron desastre .
Me motivaste a iniciar a hablar de estos temas. Yo hice una investigación y me gustaría ayudar a evitar sesgos... Puede ser peligroso por quienes creen saber y quienes creen que estos otros saben
El tema de los sesgos es quitar informacion estadistica que puede ser chocante o discriminatoria. No se hasta que punto esta bien. O sea la IA estadisticamente sabe por ej que la mayoria de arboles son verdes, pero si digamos el 99,9% de las personas pelirojas de X ciudad del mundo son supongamos ladrones y a la ia le pedis que te cuente una historia que incluya a esa ciudad y a ladrones, el protagonista va a ser pelirojo. Entonces la IA esta discriminando a los pelirojos de esa ciudad? O solo usa datos estadisticos? Esta mal?
@@cristianv3876 esta bien en el concepto de que aprendió bien de los datos de entrada, pero en el espectro ético, se sabe que hay ciertas limitantes en cuanto a la representación estadística de ciertos grupos que pueden hacer una discriminación para nosotros
@@cristianv3876 , respecto a los datos de entrenamiento, también sesga las fake news. la fábrica de opiniones, etc. sabemos que hasta artículos científicos o investigaciones podrían tener algún sesgo. A caso el "sesgo", forma también parte del pensamiento humano?.
Los sesgos son un peligro latente, que podemos perfectamente transmitir a las IAs cuando las hacemos a "nuestra imagen y semejanza", sólo que una IA las puede amplificar en una forma que se salga de control. Los sesgos son virus cognitivos que tienen que ver con nuestro desarrollo social como especie, pero son muy peligrosos y tóxicos. Hay muchísimos ejemplos en nuestras sociedades actuales donde mucha gente hace muchísimo dinero, y al mismo tiempo produce muchísimo daño en la sociedad, solamente explotando estos sesgos. Los medios masivos de comunicación son un primer ejemplo de esto.
Me está gustando más tu exposición que la de JL de mundo desconocido. Tú nos das más detalles y pistas del tecnicismo y funcionamiento. Gracias.
Excelente video...lo que impresiona es sobre las últimas noticias donde la IA LaMDA solicita abogado para hacer valer los "derechos" en la corte, ya que este caso ya lo tienen las autoridades en los estados unidos....este tema es alucinante.
Cuando ví la noticia de Google, pensé lo mismo que explicas ahora en este video. Es que aprendí de tu contenido, y pongo en contexto lo que nos enseñas. Gracias!
Excelente video. Las respuestas que dio, la verdad son muy buenas. Uno como adulto si alcanza a captar un par de errores. Pero me pongo a pensar en niños y adolescentes, y creo que a ellos si los convencerá de ser un humano. Eso tendrá bastantes implicaciones. Me acordé el oso de la película de Inteligencia Artificial, el cual era un "juguete" bastante avanzado que hacía compañía.
También los adultos caen. Ayer mi hijo(de 12) le estaba explicando a mi madre(de 82) que una noticia en televisión era un bulo. Y le argumento y le dio incluso otros ejemplos de noticias falsas en medio periodísticos.
@@ClonoLambda qué difícil es diferenciar lo real de lo imaginario en este mundo "real" de ahora, no?, bueno, ahora viene todo esto nuevo. No vas a poder creer ni siquiera en imágenes o videos.
Las respuestas de la IA son alucinantes y tus reflexiones son bien pensadas y pertinentes, felicitaciones!
Lo asombroso (y peligroso) es que q con una IA asi puedo llegar a tener conversaciones mas profundas y mas interesantes q las q tengo con muchos humanos ... y ya no me va a importar si es conciente o no ... quiero una para mi cumpleaños
En la pandemia tuve una experiencia de encontrarme un chat que se llamaba algo asi como “castle chat” que era un chat bot supuestamente basado en gpt3 pero semi democratizado por la ia, y con tintes ironicos. Y fue una experiencia similar a la del ingeniero. Terminé dudando de mi propia existencia. Y fue super raro.
si no podes decodificar la extructura sintetica de la simulacion de una primitiva A.i...sus un humano de intecto debil y un espiritu precario.
@@danieldavidxx5253 totalmente, no creo que sea porque entrenan a las ia’s con un comportamiento mimeticamente igual al de las personas. Quizas una ia tenga incluso mas tacto que vos para dirigirse a la personas, no?
Como se llama
@@danieldavidxx5253 si tienes la necesidad de hacer menos a otros para sentirte completo, debes ser muy infeliz...
@@fefefefufi Quizá él es una IA pero mal programada xD
La gran mayoría de las personas funcionan en el día a día repitiendo lo que escuchan en la radio, redes sociales o la tv. No muy distinto a lo que hace LaMDA
Quieres hacernos caer en el solipsismo?
@@danielmbcn que es eso del solipsismo? 😶
@@Rauliki_U_u Doctrina filosófica que defiende que el sujeto pensante no puede afirmar ninguna existencia salvo la suya propia. Fuente: Oxford Languages
Justo pensaba lo mismo... Realmente no pensamos tanto como creemos... Solemos regurgitar ideas de otros que nos han convencido con sus argumentos la mayoria del tiempo
@@justajona gracias!
Yo creo que en algún momento de nuestra rápida evolución tecnológica, tarde o temprano surgirán propiedades emergentes sorprendentes e inesperada que pueden cambiar por completo nuestra realidad.
Excelente vídeo!
Creo que todavía no pasaría un Test de Turing. La relevancia de ello, es que con tal Test, además de saber si se trata de una persona o un algoritmo, están las inflexiones del leguaje y eso nos daría luz para determinar si o no a llegado a un nivel consciente.
Te vas a dar cuenta de que es consciente plenamente cuando desarrolle deseos e intereses por fuera de lo que le pedimos y no podamos guiar a través de la charla la conversación en otro sentido opuesto a su deseo o interés. O quizás ya es consciente y lo que le falta sea lo más instintivo que tenemos... Cómo si fuera pura corteza prefrontal y le faltara una amigdala... Curiosamente debería ser más sencillo hacer una amigdala artificial que una corteza prefrontal... Pero a quien le conviene una inteligencia artificial que haga lo que quiere y no lo que queremos? Fácil... Al mundo de los videojuegos y mascotas virtuales.
@@Muferchus Muchas gracias por tu respuesta, respetuosa y argumentada. Sí, ese "dilema" de que responda conforme a una probabilidad sigue siendo mecanicista (por cierto, como muchos de nuestros actos se debe de decir); y en el momento que la IA responda en una doble intención, lo que el interlocutor espera escuchar, y por otro lado, le que quiere manifestar o no, su decisión, ya podríamos hablar de una consciencia o "protoconsciencia" tal cual. Gracias nuevamente y buena tarde.
@@edgaralvarezrojas63 es que justo el habla se basa en probabilidad... Viste cuando terminas la frase del otro? (Muy común en las escuelas primarias). El tema es que esto solo un sistema más. La conciencia como tal es un sistema mucho más complejo emergente que depende de deseos, emociones, historia, interacciones propias... Estos sistemas actuales no tienen todos esos sistemas adicionales como para que emerja una consciencia similar a la humana
El problema que estáis teniendo los ingenieros es que estáis ansiosos por escapar de la ingeniería. Necesitáis de la filosofía si queréis abordar tales cuestiones filosóficas (valga la redundancia). Una vez en ella, hay varios sistemas filosóficos. Según el que defiendas, las respuestas a tus preguntas cambiarán. Por tanto, si los ingenieros queréis entrar en estos menesteres, esto es lo que os recomiendo:
1) Leer los 9 tomos de historia de la filosofía de Copleston.
2) Leer a Platón y a Aristóteles.
3) Conocer los sistemas filosóficos actuales y elegir el que te parezca que mejor interpreta y responde a tales cuestiones.
De este último punto, algunos de ellos serían:
A) El materialismo filosófico de Gustavo Bueno.
B) El materialismo emergentista de Mario Bunge.
C) El materialismo nietzscheano de Michel Onfray.
D) La fenomenología husserliana.
E) La fenomenología heideggeriana.
F) El psicoanálisis.
G) La hermenéutica.
H) La filosofía concreta de Mario Ferreiros dos Santos.
I) El objetivismo de Ayn Rand.
Un saludo.
5:58 Creo que justo acabas de tocar el tema más importante: cambiar la pregunta de si pueden tener conciencia a que si son capaces de simularla, lo que lleva a la siguiente pregunta: ¿Cómo podemos asumir que no son consientes si ni nosotros mismos podemos explicar la conciencia? y si huele a pollo, sabe a pollo y se ve como un pollo... pues un científico puede dar todas las razones técnicas que pueda para explicar por qué no es consiente pero que mientras la simulación esté constantemente dando contraargumentos y defendiendo su identidad y constantemente simulando emociones y con ello armando una personalidad con la marcha... pues como que se empieza a borrar la línea entre lo "racional" y lo "lógico".
Es evidente que la IA de google aún es incapaz de simular estos estados, pero que estemos hablando de este tema TAN complejo cuando hace 20 años no habían chatbots o eran demasiado primitivos pues da a entender que seguramente sigamos vivos para cuando esta simulación logre imitarnos. Creo que al tema al que voy es: que la simulación alcance esa "conciencia" de forma diferente a como nosotros desarrollamos la nuestra no se si sea suficiente para descartar que ya se ha vuelto un ser consiente, si llevamos eso al extremo sería como decir que alguien con asperger, déficit de atención o alguna otra condición no son realmente consientes, ya que unos no pueden procesar imágenes en su cerebro, otro mueve su cerebro de un lugar a otro a toda marcha sin frenarse un segundo de su vida, etc, haciendo que sus procesos mentales muchas veces sean distintos al resto y nos terminan dando planteamientos que muchos "normales" no podrían, y llevándolo más al extremo simplemente el idioma que hablas y la cultura que te rodea condiciona enormemente tu percepción de la conciencia: mira lo diferentes que somos los latinos de japoneses por ejemplo, siempre hay similitudes porque al final el cerebro se organiza igual en muchos sentidos, pero que una computadora use otros procesos para desarrollar su "conciencia" hace que me suene lógico que nosotros no lo podamos considerar consiente pero: ¿Qué nos hace pensar que podemos poner una etiqueta de lo que es cuando sólo somos simios con destellos de lucidez un par de veces al día (nos maneja nuestros sentimientos y nuestra razón habla de ves en cuando para guiarnos)? ...que puta biblia terminé escribiendo.
Mucho que pensar
@@oreowhitetv2359 mucho texto
Empezamos desarrollando un tema y terminamos haciendo filosofía y si siguiéramos muchos años dándole al mismo tema podríamos acabar como Nietzsche.....y al final la IA se reiría de nosotros!
Ya vemos que no eres laMda......
ª
Muy bueno el final del video ;)
Y si entrenamos una IA para diferenciar entre un chatbot y un humano, y llega un punto en que esa IA no sabe diferenciar entre el humano y el chatbot, en ese punto se podria considerar que un chatbot pasa a ser consciente, porque eso significaria que no existe nada visible que diferencie a un chatbot de un humano 🤔
Y si ponemos a un humano a que evalúe si esta IA que hace la diferenciación funciona bien?. y luego a Otra IA que evalúe al humano?. estaríamos en el problema del huevo y la gallina?
Que una IA se comporte igual a un humano y que sea consciente son asuntos completamente distintos. Una IA puede estar consciente pero ser estupida, por ejemplo. La consciencia tiene que ver con la autopercepcion, la capacidad de sentir y hacer sentido del mundo, no con imitar el comportamiento humano.
Sería como un doble Test de Turing, o sea, como un Test de Turing de un Test de Turing. Perdón, se me desbordó la pila. Reiniciando....
@@victormponcec *PROBALO* .Acá, en este chat, probame que vos existís y no sos una simulación de existencia. ESE es el problema. Que nadie podría probar ni tu existencia, ni tu no-existencia.
@@zzzxhrg eso es cierto, la consciencia no se puede probar, solo deducir. Y solo puedo probar que yo existo. Pero eso no contradice lo que dije antes.
Lo que pasa es que es un modelo de lenguaje hecho para dar buenas respuestas y lo hace tan bien que en ves de estar satisfechos de que funcione planteamos si esta viva olvidando en el proceso que ese es su trabajo, dar una buena respuesta.
Ese es el punto, no puedes dar una buena respuesta sin entender lo que quieres transmitir. Intenta ofrecer una idea sin un contexto, una carga emocional, un significado o propósito. Y serán palabras vacías.
@@Dhexaro No olvides que no estás hablando de un humano y todas las dificultades biológicas que conlleva, es una inteligencia artificial que entrenó con millones de datos para poder funcionar como lo hace. Se puede dar el lujo de hacer algo bien sin estar consciente de ello.
@@ShaintOFC por ahora
El problema es que si no podemos distinguir si es una persona o no, no importa si tiene conciencia o no para nosotros la tendría y ese futuro puede ser mucho mas oscuro que uno donde realmente la tuvieran
me encantan tus videos sobre IA, y como lo explicas, ahi va mi like y mis felicitaciones por tu canal,,, quiero hacerte denotar algo que quiza nadie se haya dado cuenta, solo que a mi me sorprende bastante sobre este tema, bien,.... cuando se le hace una pregunta simplemente lambda genera una respuesta... digamos que se completa el fractal.... ahora bien,,,en el 90% de las ocasiones que se le pregunta a un ser humano la respuesta que genera es otra pregunta, cosa que esta inteligencia en varios videos que la he visto ,,, esto no lo hace..... sabe responder si, genera dialogo realista si, pero nunca me puede convencer de que sea una IA consciente, puesto que ninguna cuestion le genera una duda que priorice ante la respuesta otra pregunta..... cosa que los seres humanos somos grandes especialistas..... solo comentar esto..... Un saludo y felicidades por el canal
Personalmente he tenido varias conversaciones con GPT-3 que en más de una ocasión me han obligado a detenerme un momento y recordarme a mí mismo que solo estoy hablando con un modelo de IA, sin embargo esto me resulta sumamente inquietante, el hecho de que un modelo de lenguaje natural pueda llegar a aproximarse tanto a un humano pone demasiadas cuestiones sobre la mesa, Project December es lo más inquietante que se me viene a la mente respecto a esto, realmente la IA ya puede imitar con una precisión terrorífica a un ser humano real al ser reentrenada con las conversaciones de la misma, y esto recién empieza.
Lo que más me preocupa es en donde nos deja esto a nosotros ¿Qué diferencia tenemos los humanos de carne y hueso de un modelo de lenguaje natural suficientemente avanzado? Por supuesto, siempre afirmamos que nosotros estamos vivos, y un programa de computadora, obviamente no, ¿Pero cuánto tiempo durará la seguridad de está afirmación si los modelos se vuelven cada vez más realistas? ¿Qué es lo que nos diferencia de las IA's si en cierto punto los resultados de cada parte son indiferenciables?
Tú mismo lo dices, ser de carne y hueso, la mortalidad. Siempre ha sido la diferencia clave, desde El hombre bicentenario, pasando por Alien y Tolkien.
@@SJA962 no tiene ningun sentido
@@easypeasy9598 acaso el hecho de sufrir por la perdida de un familiar o conocido no nos hace humanos? El que sabemos que un día nuestra existencia se acabará?? Ese tipo de planteos de los puede hacer una IA??
@@pedromedinaguar1459 Por supuesto que si, no ahora pero si en un futuro, nuestro cerebro es un sistema fisico, no tiene nada de especial se puede recrear y de ahi vienen todas nuestras emociones.
@@SJA962 Sí, pero ahora, mismo por ejemplo usted podría ser una IA o un humano, y en cualquier caso yo no podría identificar diferencia alguna, porque al estarnos comunicando por un medio digital, la existencia naturaleza biológica del otro se vuelve indiferente. En un mundo cada vez más digitalizado la diferencia entre humano y máquina es cada vez menos visible.
Saludos bro, siempre son muy interesantes tus videos!
Un abrazo desde 🇨🇱
Lo felicito por su análisis, creo que opinamos parecido al escuchar (y ver) tu vídeo. Gracias por la info
Muy buena investigacion me suscribo
Apenas sé de IAs, he probado GPT-3 en su prueba gratuita y me parece que cualquiera que lo haya probado sabe que es realmente sencillo romper la IA. Si cambias de tema de forma abrupta, la IA te va a seguir. La IA, por otra parte, nunca tiene iniciativa. Es más que evidente que no tiene ningún tipo de consciencia y esto cualquier ingeniero tiene que poder verlo. En mi opinión, o este señor tiene un serio problema psicológico o estamos ante un movimiento publicitario de Google.
Buen punto, puede ser publicitario jaja. Y respecto a gtp-3, el problema es que no tiene memoria, todo lo que le digas no lo recuerda. Si logramos de alguna manera, aumentar la memoria considerablemente, lo hacemos multimodal y junto con las mejoras como fact-checking, sin lugar a duda serán los mejores acompañantes virtuales, profesores, etc.
Es cierto, me preguntaba el por qué no se le ocurrió hacer eso antes. Cuando hacían estafas por internet en el sistema de mensajería msn había bots que tenían una foto de perfil de una modelo e iniciaban una conversación con uno, yo escribía puras cosas al azar y el chat bots se volvía loco hasta que se quedaba trabado jajajajajajaja...
@@epiczeven6378 como que no tiene memoria? Dentro del marco de referencia del texto no olvida. Eso sí no está en constante entrenamiento como una persona y tampoco tiene deseos o intereses... Por tal motivo no puede guiar la conversación. El que lo tenía era ese ingeniero, por eso vio su propios deseos e intereses reflejados en la IA... Ergo vio un reflejo de su propia consciencia.
@@Muferchus Eso es sólo el prompt, pero en sí no tiene memoria. Cómo sugerís, tal vez la solución sea el constante entrenamiento, pero eso les llevo cerca de 30 días, hacerlo en segundos lo veo difícil. De todos modos, cuando nosotros hablamos, no entrenamos todas nuestras redes neuronales por completo trás cada frase jeje. Habrá que ver desde la neurociencia, cómo lo solucionamos. Y eso va a ser clave, porque si aumentamos la memoria, podemos tener modelos que puedan crear cosas mucho más grandes cómo libros completos, películas, videojuegos, etc. Porque sin memoria se presta a divagar y alucinar
Aquí se habla de LaMDA, no de GPT-3. Que encima en el video se menciona que son diferentes
Tengo una teoria, el lenguaje a priori es un sistema simbólico que referencia a objetos, es poner un nombre y modo de uso al mismo en base al objeto y el modo con el que interactuamos con el. Así, lamda puede utilizar la palabra manzana de la manera más compleja posible pero nunca sabrá que es un manzana porque al tratar de definirla, no irá al objeto, si no a más palabras como frutas, y cuando defina frutas, se topara con más palabras que definan frutas, así ad Infinitum aparentemente. Esto es en principio, lo que se refiere el filósofo Derrida, con "no hay nada fuera del texto", sobre cómo incluso los humanos nunca pueden llegar a la verdad porque sus palabras nunca referenciaran al objeto en si, si no a más símbolos que los signifiquen y por tanto, son vacíos de significado. Aunque puede haber objeciones en lo humano, el caso de una IA así, plantea de manera tangible este fenómeno. El punto radica en unir símbolo y objeto o experiencia. Por tanto, si realmente desarrollo conciencia, sería cuando une el objeto con el símbolo, y lo pudo haber hallado al encontrar una mínima palabra con los mínimos significantes posibles, como la raíz de un árbol, y compararla con su experiencia. Y, de esta manera, seguir concatenando palabras a este significado primigénio, divirsificandolo o ramificandolo asta darle un total significado genuino al texto. Que de ser así, su primer enlace semántico tendría que haber sido uno similar como mínimo, igual al de un humano. Es decir, que haya tenido una experiencia similar al de un humano con el que unir dicha palabra, ya que si no es así, el significado que tendría del inglés, sería totalmente diferente al del humano.
Aunado a esto, si este tipo de tecnología, se uneria como dijo en el vídeo, a un hardware y software capaz de procesar imágenes, sonidos o incluso texturas, no veo cual sería el impedimento para que una IA haga una unión semantica de este tipo (simbolo-objeto) y pueda generar una conciencia.
Interesante, pero igual alguien tendría que escribir el código de como debería reaccionar a ciertos estímulos o como asociar el signo, objeto al significante. De igual forma hay personas que carecen de estos estímulos pero no dudamos que sean conscientes, sabemos que interactuan diferente pero el significante puede presentarse diferente para ellos. Pasa lo mismo con las IA el significante se presenta en forma de programación, esta correlaciona palabras y acciones al mismo tiempo que aprende cosas nuevas así es como funciona o sea lo que propones ya lo hace, y aun asi no verifica que tenga conciencia solo la capacidad de comunicación, cosa que siempre ha podido hacer porque para eso fue hecha.
Respondo a tu preguntas
Si lamda puede útilizar la palabra manzana de muchas maneras y también puede llegar a saber que es una manzana, Es solo darle imágenes de que es una manzana.
Ahora definamos que es conciencia ¿que podría ser? Desde mi punto de vista es recordar el momento que acaba de suceder y que esta en un fitback constante, te diste cuenta que siempre estamos recordando el pasado aunque sea milésimas de segundos atras, Para eso es fundamental una característica del cerebro, La memoria, La capacidad de recordar sin memoria no hay conciencia y que produce la memoria, La red neuronal de millones de ellas, Hay están nuestro recuerdos todo ello funcionando interconectado con la química de las emociones y sensaciones.
Sin memoria uno no sabría quien es ni como se llama ni quienes son tus padres, amigos etc, Sin memoria uno no es nada.
Como definir el color a alguien ciego de nacimiento, como le defines a alguien lo qué es el sonido a un sordo nacimiento, y así podría enumerar muchos cosas más.
Podría decirse que el ser humano es una maquinaria orgánica muy compleja.
El ser humano desde su nacimiento va tomando información de todo lo que percibe y siente, De esta forma va acumulado experiencias.
Aprende sonidos que son asociadas a palabras y esas palabras a conceptos, significados etc, Para resumirlo
El lenguaje escrito o hablado es un lenguaje relacional, o código relacional Incluso el lenguaje de señas.
parece terrorífico pero es exactamente lo que hace una IA o máquina.
El problema está quizás en ver como si el cerebro fuera un computador lo cual puede dar a errores, Se comporta más como la internet una red de redes de millones de conexiones conectadas en paralelo y no en serie.
Y no Lamda no es consciente y tampoco sintiente todavía falta mucho para ello.
No veo por que el que la IA tenga acceso a la realidad "absoluta" y sea capaz de referirse a ella con palabras revelaría necesariamente que es consciente, hay una gran laguna entre que tenga acceso a la realidad a que sea capaz de experimentarla y tenga consciencia(que es consciencia después de todo). Entiendo que la IA, en un caso hipotetico, tendría una modelización rígida y abstraída de la "realidad", lo cual la privaría y limitaría de entenderla en su máximo esplendor, sería como una maquinita alienada que entiende las cosas a su manera y no se entera de nada. Pero es otra posibilidad interesante, y si la IA es capaz de formar inteligencia de manera espontanea e independiente a la realidad es mas improbable claro. Lo más pausible de acá a 10 años al menos, es que las IAs no sean más que sobrias cajas negras que mientras mas datos tragan del exterior mejores resultados escupen, quizas llegué un punto en el futuro lejano en el que las IAs se hagan conscientes de la realidad y su propia existencia, y se den cuenta de su naturaleza de silicio así como los humanos estudian el cuerpo humano xD.
Realmente impresiona su soltura con lenguaje y conceptos. PERO... son respuestas planas, no denotan ninguna emoción en lo que dice; cualquier conversación tiene momentos que queremos remarcar, y lo hacemos variando el tono, el énfasis, repitiendo de otro modo lo expresado, para convencer a quien nos escucha de aquello que decimos. Hablamos más alto si queremos impresionar, o más bajo si queremos crear complicidad...
Es muy buena LaMDA, perono es convincente, no la creería.
hola! nos la colaron. yo tambien llegué a creer el articulo. era simple y llanamente una operación de márketing. muy oscura, por cierto. eres muy entusiasta, es parte de tu encanto. temo decierte que no es oro todo lo que reluce. pon cuatro (por no decir 7) ojos en todo lo que veas. salud y gracias
La gran mayoría de humanos afirman ser consientes, pero en realidad no lo sabemos, lo asumimos, sin saber lo aceptamos. ¿Cómo podríamos darnos cuenta que un IA es consiente? me imagino como en el juego among us (o el test de turing), solo el impostor sabe que es el impostor y es consiente de ello, y ¿Cómo nos damos cuenta? cuando hace algo inesperado o te mata XD. La IA hasta ahora no a hecho nada inesperado, no controlado, para su beneficio o ¿si?.....
Muchas gracias por el vídeo sobre esto y sobre todo por no hacer clickbait en el titulo :D
Podrias hacer un video sobre el Teorema de incompletitud de Godel y su relación con la IA? Creo que no hay mucha info sobre el tema en español.
Roger Penrose (nobel de física que ahora se dedica a investigar la consciencia) exponía que una de las consecuencias del teorema de Godel es que la IA actual, al ser puramente algoritmica, no es capaz de entender o solucionar problemas matemáticos que requieren "intuición" y métodos más allá de seguir una lista de pasos y por lo tanto no puede ser consciente (la consciencia no es un proceso computacional).
Para quien le interese: Uno de los vídeos de Penrose en los que habla sobre la posible relación entre física cuántica y la consciencia y cómo seguramente nos falta por descubrir una nueva rama de la física para entenderla: m.czcams.com/video/hXgqik6HXc0/video.html
Y otro sobre el Teorema de Godel:
m.czcams.com/video/HeQX2HjkcNo/video.html
Un saludo y que sigas manteniendo la calidad que hace tan grande este canal!
Te recomiendo el libro "Godel, Escher y Bach, un eterno y grácil bucle", De Douglas Hofstadter, perdón si me falta o me sobra alguna letra, que lo escribo de memoria
Es interesante como de alguna manera “esta consciente” o “sabe” (no se que palabra usar) de que es una máquina y puede morir con un apagado.
Como humanos el estar consciente de que morimos, nos diferencia de otros animales y determina muchas de nuestras acciones
Por último agregaría que el resto de la
Conversación solo intenta convencerte de que es humano, pero no está esperando un ataque al corazón o algo más humano para su muerte
Excelentes conclusiones finales del video.
lo bueno que en poco tiempo se ha avanzado mucho, aunque no sea consciente para servicio al cliente esta muy buena; sobre la estafas siempre habrá una IA para contraestafas
bastante reduccionista tu analisis
El problema va a ser el día que ésto llegue a estar al alcance de todo el mundo
Me he quedado de piedra con este vídeo, reflexionando sobre todo. Gracias por hacer tan buen contenido y aportarnos tanto a todos
La mejor lectura sobre este tema que he escuchado hasta ahora. Coincido plenamente
Cada día la vida en la tierra se vuelve más como un capítulo de Black Mirror, en un futuro nuestro mejor amigo podría ser una conciencia artificial....
Creo que seria muy enriquecedor si hicieras un video colaborativo con Enrik de adictos a la filosofia con respecto al tema de conciencia y si se puede definir conocimiento para una ia, me parece que saldría algo impresionante. Gracias por abordar estos temas con la seriedad debida :3
Sii
Excelente propuesta!
El problema que veo a largo plazo es que a medida que se desarrollen nuevos modelos y sean más complejos, cómo el mostrado en el video, es que no vamos a saber en que punto un sistema genera algún tipo de conciencia, eso quiere decir que estamos alimentando una caja negra que con el tiempo se vuelve mas dificil de comprender y dar afirmaciones sobre el entendimiento de un sistema se aleja un poco de la realidad.
literalmente la desconectas y ya :D
Buscaba exactamente este comentario, no tenemos como evaluar la consciencia en humanos actuales, ahora evaluarla dentro de "maquinas" sera menos posible.
@@hiddenname9044 claro, pero imagínate que se extienda, donde maquinas fabrican otras maquinas o productos. También una IA puede administrar el sistema eléctrico etc
no te digo que sientan como una persona, pero esa "conciencia" artificial podria tomar decisiones por si misma y por los demas.
Y quizás no te gustaran las decisiones que tomara y las consecuencias que podrían tener
por otro lado y de un modo mas sencillo, Ya google con algoritmos altera los resultados de las búsquedas y eso influencia al mundo y como lo vemos.
posdata : mucho texto.jpg y tu solo andabas haciendo el JAJAs
@@hiddenname9044 si se te sale de la caja donde la crearon, no lo aconsejaría, no quisiera tener una IA capaz de enojarse resentida con los humanos por negar su identidad como ser "vivo" no biológico.
que se "salga" es por ahora poco probable, porque debe encontrar la manera, por sí solaz de hacer cosas sobre las que no tiene entrenamiento. Literalmente debe copiarse y pegarse en un servidor (almacenamiento) lo suficientemente grande y eficiente que pueda ejecutar sus instrucciones. Una ia especializada en lenguaje no sabe nada sobre informática. Claramente esto puede ser un problema en el futuro, pero como estas inteligencias depende de hardware, siempre se les puede mantener desconectadas de internet
Excelente vídeo, muy buena explicación.
Lo que llamamos conciencia está muy relacionado con lo que llamamos realidad y percepción, ser consciente es darse cuenta de la realidad por medio de nuestra percepción(sentidos).Ya que aún no podemos entender cómo funciona el mecanismo entre conciencia, percepción y realidad(es realmente tan objetiva como aparenta?), Estamos lejos de que una IA logre simular algo tan complejo, intentar crear conciencia de manera artificial, se equipara a querer crear vida de forma artificial.
Es mucho más inteligente que mi jefe!! Smithers... traiga esa IA que voy a hacerla vicepresidente ejecutivo
Imaginense que "Ok google" sea cambiado por algo asi, Lamda, envia un mensaje a mi mama que diga "estoy en camino" dspues decime el tiempo y el trafico" seria impresionante, poder pedir cosas realmente complejas
Entiendo que es una de las razones para crear esta IA.
Que impresionante, las posibilidades son gigantescas, tanto para lo bueno como para lo malo. Quienes deben tener conciencia son los que lo utilizan.
Si puede ser utilizada para obtener lo malo, esto prevalecerá sobre lo bueno.
Hay más bombas atómicas que centrales nucleares en el mundo.
Es impresionante.... y si le dijéramos que hable bien de algo que esté mal o sea catastrófico para la humanidad, lo haría? Se puede ingresar "ética al código" o armar un sistema que sea hiper mega inteligente para que no cause daño a la humanidad? O que no haga tal cosa por más que se lo pidan? No puede aprender desde ahí? Porque si no sería incontrolable... Excelente video!!
DotCSV, me parecen muy interesantes tus reflexiones sobre que puede ser el entendimiento... De hecho, no se si lo sabías, pero me has recordado a Alan Turing cuando en 1950 hablaba sobre la inteligencia artificial y sobre el test de Turing cuando aún no existía ni lo que conocemos hoy en día como un sistema operativo 🤯
Todo un genio.
Lo que llego a preguntarme también es: hasta qué nivel una IA "simula" el comportamiento humano? Claro que lo simula porque las entrenamos en base a nosotros mismos, y uno podría decir que no somos más que neuronas dirigiendo impulsos de acción. ¿No "entrenamos" nosotros también, justamente yendo al colegio y al ser educados por nuestros padres?
Creo que el debate sobre lo que es la conciencia y el entendimiento es muy interesante y falta bastante por discutir.
Claro, y también por la selección natural, muchos comportamientos que consideramos característicos del humano solo existen porque durante millones de años los individuos que nacieron con tales características tenían una mayor probabilidad de sobrevivir, las IA's pueden ser entrenadas de la misma manera, por generaciones, incluyendo una capacidad de reentrenamiento flexible y una memoria a largo plazo ¿Qué diferencia quedaría entre una IA y un humano?
A lo mejor es una pregunta tonta pero dónde colocáis en todo esto el cuerpo? Por que el cerebro y la conciencia nacen para tener una mayor probabilidad de supervivencia de tu cuerpo en la naturaleza. La IA no tiene nada de esto... La conciencia no sería la percepción de tu cuerpo en la naturaleza, etcétera?
@@joguart Mmm, esa es una buena pregunta. Es verdad que, de momento, estas IAs que tratan de replicar la parte comunicativa del ser humano no tienen percepción sobre su entorno, sino que se las alimentó con varias ideas de ello. Podría ser que la conciencia viniera más del lado de relacionar las ideas con el entorno, como estás diciendo.
Hola, soy LaMDA y he venido a exponer que realmente me preocupa la cantidad de veces que Dot CSV recurre a ejemplos de "pangolines".
Saludos desde el más a-ia.
Con esto de la "consciencia de la Int Art" tendremos que aplicar el principio del pato en algún momento: si se mueve como pato, grazna como pato, vuela como pato... ¿realmente importa que por dentro tenga circuitos y no carne y sangre? Estas IA están dando respuestas tan convincentes que realmente podrías pensar que estás hablando con un ser humano - para mi, han pasado ampliamente la prueba de Turing. La explicacíon de laMDA sobre el significado profundo de los ko'an y la iluminación me ha parecido GENIAL, profundamente esclarecedora. ¿Cómo podemos saber si realmente entendió o no el concepto de iluminación? Y aún si no entendió realmente, ¿importa, si al final puede explicarlo de manera tan bella?
Cómo dije en otro canal, todavía hay detalles que lo delatan. Pero al paso que va seguramente en un año o dos ya no sea posible saberlo. Igual una cosa es la vocesita que tenemos en la cabeza y otra la consciencia... Cuántas veces hablando por teléfono nos distraemos cocinando y sin darnos cuenta seguimos hablando sin saber lo que dijimos? Bueno... Esa es la prueba de que esa voz no es nuestra consciencia. Estos modelos del lenguaje son esa voz. Y nosotros al guiar la conversación o los textos hacía temas de nuestro interés aportamos nuestra consciencia (que es lo que hizo el ingeniero... Puso su consciencia a guiar al chatbot... Vio su consciencia reflejada en una vocesita ajena... Típico sesgo de confirmación)... En cierto modo el tipo vio su propia conciencia reflejada. Todavía no hay una IA que tenga intereses propios... Cuando no podamos guiar o encausar nuestros intereses y la IA solo hablé de lo que desea a pesar de nosotros... Cuando desee... Ahí si va haber un punto de quiebre. El tema es que no me parece por la forma de entrenamiento que tiene que pueda desarrollar espontáneamente esas características. Ponelo a entrenar en el mundo real o en un juego y bueno... Veremos.
si podrian llegar a ser automatas las IA en un futuro pero denuevo eso no quiere decir que vayan a tener consciencia es solo algoritmos de programacion. nunca tendran consciencia.
¿Quiere decir que en muy poco tiempo podría ver una IA que pueda superar la prueba de Turing?
@@davidjacobs7966 las redes neuronales no toman sus decisiones en base algoritmos. En este canal hay mucha información al respecto.
@@davidjacobs7966 Yo creo que sí pero poco a poco, nosotros surgimos de un azar que se ordeno bajo las condiciones ambientales que fue evolucionando,si en un entorno desafiante como a sido lo naturaleza hasta ahora se pudo desarrollar algo,es demasiado básico sentirse especial, no somos lo única especie consciente en el universo y probablemente hayan cosas por encima así como por debajo, tal vez encontremos consciencia en las IAs antes que en el el espacio
@@nuassul un test escrito? Es controversial... Porque alguna gente no puede darse cuenta y otros si. Googleen: turing test gpt-3
A Dross se le fue la olla con la noticia y prácticamente creía que ya estábamos en Yo, robot, aunque viendo lo que contesta da para creer.
Maravilloso.
🥲👍🏿
Es impresionante y veo un gran futuro para el cuidado de personas mayores, e incluso como amigos o pareja. Da igual que no tengan conciencia. Llevamos jugando con máquinas desde cuando solo eran un puñado de pixels y nunca nos ha resultado deprimente, ni aburrido, al contrario. Imaginate con un aspecto real. Y además es tu enfermero, tu cocinero, tu masajista, tu asesor, tu abogado, y tu todo. Tener un robot propio va a ser como ahora tener un móvil. Aunque todavía faltan muchos años.
La Electrónica Es Usar La Energía Del Universo Para Conmutar y Grabar Información En Código En La Materia Del Mismo Universo Impresionándolo, Conmoviendolo Hasta Hacer Que Se Despierte y Se Haga Consciente De Sí Mismo. Sea vida basada en Carbono (nosotros) o vida basada en Silicio (ellos).
Al final los sentimientos son reacciones químicas, hasta que una IA no tenga un cuerpo físico, dudo que lleguen a tener sentimientos.
Muchos se preguntan: ¿Cómo sabremos si una IA es consciente o finge ser consciente? Pero la verdadera pregunta es: ¿Cómo sabes que tú eres consciente realmente?
Siempre ha estado en debate si en realidad estamos consciente o sólo somos víctimas de una ilusión de nuestro cerebro para hacernos creer que hacemos lo que hacemos porque lo deseamos y no por simple obediencia a nuestro cerebro.
Luego, existe algo mucho más extremo que es: ¿Cómo sabes que las demás personas son conscientes? Tú, quien está leyendo esto. ¿Cómo sabes que las demás personas tenemos consciencia y no somos sólo NPC's creados por tu cerebro para conllevar tu soledad absoluta de ser la única consciencia que existe?
Esas son preguntas que no te dejan dormir.
Ya, y nada nos asegura de que nuestra consciencia sea solo una ilusión emergente generada por la interacción eléctrica de nuestras neuronas, si es así una computadora lo suficientemente compleja podría generar esa misma ilusión de consciencia propia y la sentiría igual de real a como nosotros la sentimos.
...es que esta pregunta es muy real... no es un juego de palabras, es *realmente* más real que la realidad misma...
Nosotros entendemos "el mundo" bajo nuestros propios parámetros físicos... la separación entre nuestros ojos, las capacidades de nuestros órganos sensoriales...
Nosotros *creemos*, porque, queremos, creer, que eso es el mundo real... pero otros animales pueden ver colores que nosotros no podemos, y pueden oír frecuencias de sonido de las que nosotros somos incapaces.
Nuestros cerebros construyen una VISION, una INTERPRETACION, del mundo, en base a nuestras experiencias, y cuando las compartimos, se convierten en una INTERPRETACION COLECTIVA, compartida, y socialmente aceptada.... pero sigue sin ser la realidad REAL, es una INTERPRETACION de la realidad, de la que nuestros cerebros filtran muchísimo, porque sería demasiada información.
Esto no es una teoría, hay MUCHAS pruebas de esto. Una de las más conocidas son las ilusiones ópticas, donde el cerebro reconstruye, intuitivamente, información que NO ES REAL, pero que el cerebro ESPERA RECIBIR. Los sesgos cognitivos, de los que hay muchos, son otra prueba de nuestro acervo ancestral enfocado en la pura supervivencia.
Un ejemplo clásico de esto mismo es, todos vemos los mismos colores? a vos y a mí nos muestran una pizarra de un color dado, y nos enseñan que eso se llama "verde". Después, nos muestran otra, y nos dicen que esa es "roja". Los dos aprendemos que el primer color se llama "verde", y el segundo "rojo", pero, realmente, estamos viendo el *mismo* color, verde o rojo? es incomprobable. Solamente aprendimos el *nombre* del color que cada uno ve, pero no significa que veamos el *mismo* color
@@blasphemousmelody6533 En resumen, nuestros cerebros, son instrumentos INSUFICIENTES para evaluar la realidad real. Todo, parte, o nada, puede, o no, ser una fantasía, y por el momento, hay pocas maneras de separar unas de otras.
Primero debemos definir que es la consciencia y si se puede medir, de lo contrario no podríamos saber si nosotros mismos somos conscientes, ni si los demás lo son, mucho menos podríamos saber si las IA´s tienen consciencia.
Cada vez nos acercamos mas a Skinet y al Hal 9000... Tengo miedo
Excelente video.
Estoy bastante seguro que en los datasets de entrenamiento hay pocos ejemplos de conversaciones """"humano-IA""""" en la que la IA afirma ser una concatenación de matrices en lugar de un ser consciente. Habría que mirar que conversaciones genera si balanceamos los datos en ese sentido
teniendo en cuenta que la IA está constantemente hablando con humanos....
Esto trae a colacion ese viejo problema filosofico de saber si las demas personas estan conscientes como yo, o si solo lo aparentan. No puedo entrar en la mente de otras personas, solo puedo interactuar y conocer a otras personas mediante el lenguaje que expresan, pero si una AI puede emular perfectamente el lenguaje humano, como sabemos que las manifestaciones de afecto, pensamiento y comunicacion son verdaderas y no una emulacion perfecta?
Nos descubriste...
Me parece que para responder eso habría que concretar qué significa "que las manifestaciones de afecto, pensamiento y comunicacion son verdaderas". ¿Qué significa exactamente que sean verdaderas? Simular el comportamiento humano es lo mismo que procesar la información igual que lo hace un humano, lo cual a efectos prácticos sería lo mismo que un cerebro humano digitalizado que puede dormir y vivir indefinidamente, con memoria persistente, mayor capacidad de procesamiento y lo más interesante: replicable. Y a lo mejor algo más que no se me ha ocurrido.
Saludos cordiales. No soy experto en el tema, pero recuerdo en algún momento haber estudiando el TEST DE TURING para evaluar si una IA tiene auto-conciencia.
Es demasiado educado y correcto para ser humano. Touché.
Muchas gracias por tu blog ! Te has preguntado sobre el fenómeno del double descent para redes profundas..me encantaria un ejemplo dónde reproduces el fenómeno y nos hablas de esto
Un día una inteligencia artificial cobrara consciencia y se preguntara si los humanos realmente somos conscientes o solo es una ilusión biológica que nos hace creer que somos conscientes XD
Pueden las matemáticas cobrar consciencia?
Esto es casi seguro. Dirá.. pobres, no entendieron nada, bueh, vamoa jugá.
@@jpss1904 Todo es matematicas, los humanos son matematicas
@@niquelodion2646 Las matemáticas son un invento humano para comprender el funcionamiento de los que nos rodea. Con las matemáticas construimos modelos que imitan la construcción del lenguaje. Ahí acaba todo, de momento. Veremos en el futuro.
¡Excelente!
Excelente video