This Chinese MICRO PC runs a HOME-MADE SUPER ARTIFICIAL INTELLIGENCE (like ChatGPT)
Vložit
- čas přidán 22. 04. 2023
- I'm Alejandro Pérez and I'm going to tell you how I've installed an artificial intelligence (Vicuna) with a quality of 90% compared to ChatGPT-4 on a low-consumption microcomputer (Khadas Edge 2).
Microcomputer on the official website: www.khadas.com/edge2
Khadas Edge 2 on Amazon Spain: amzn.to/3mZD88o
Program to run AI locally: github.com/oobabooga/text-gen...
Repository with artificial intelligence models: huggingface.co/
Vicuna: vicuna.lmsys.org/
Telegram with daily deals and offers for products analyzed on this CZcams channel: t.me/chollosEnChina
SUBSCRIBE to this channel: / @alejandroperez
My social networks:
Twitter: → / aperezyt
TikTok → / alejandroperezyt
Facebook: → / aperezyt
Instagram: → / aperezyt
Telegram: → t.me/alejandroperezyt
AFFILIATE LINKS policy:
In many cases, the included links will be affiliate links. If you purchase through them, I may receive a commission from that sale, but this will not affect the price you pay. These types of links allow me to finance the purchase of new devices for the channel and maintain impartiality in all videos. - Věda a technologie
Todo esto que estamos viviendo hoy en día es genial, es un momento demaciado interesante para la historia de la humanidad en sus avances... Este tipo de contenido debería de recibir más apoyo, necesitamos que más personas aprendan de la inteligencia artificial, se relacionen con ella, experimenten, pues el miedo que impone no es tanto miedo a la inteligencia artificial, si no a los humanos que la entrenan/programan, así que se necesita con urgencia que las personas aprendan de esta tecnología para que estemos más capacitados para lidiar con las implicaciones que traiga con sigo.
Fantástico!
Esto va a ser una guerra entre productos portátiles y la IA's entrenadas más adecuadas para correr en ellos.
Los fabricantes de todas estas Mini pc que llevan muchos años en el mercado ahora si van a tener su boom de ventas...eso sí, si se ponen vivos ( listos )
Estamos viviendo un antes y un después tecnológico.
Saludos desde Monterrey, México
Excelente Video!
Gracias 🙂
Seria interesante si pudieras comprobar si se pueden conectar a internet y si se pueden entrenar para que cada uno pueda hacer su IA parecida a ChatGPT
Excelente video como siempre Alejandro. Qué bueno que pudieras hacer un vídeo ensayando la IA en un Raspberry. Un saludo.
Impresionante trabajo, es ideal para implementarlo a gran escala en escuelas. Felicitaciones
Por esto me encanta tanto tu contenido, no hay muchas personas en CZcams que experimenten de esta manera y me encanta como lo haces
Cómo fanático de estos proyectos valoro mucho el trabajo que haces y que hay detrás, cuando he hecho cosas así se lo costoso que puede resultar en algún momento que salte un mínimo error y a veces rompe la cabeza jajajaj
Excelente trabajo Alejandro, sigue así
Muchísimas gracias 😊
Muy bueno este video porque deja en claro que se puede hacer más sobre las limitaciones que tratan de imponernos para que los veamos como si fueran la única solución y fueran casi inalcanzables. #Ingenio #Creatividad
😀😀
Muchas gracias por el esfuerzo, no puedo aplicarlo de momento, pero es un referente...
Excelente vídeo Alejandro! Muy interesante
Gracias primero que todo. Es fantástico este mundo y bueno que nos muestres las alternativas que hay y son viables, hay bastante por hacer.
Alejando, excelente video. Por favor síguenos contando como va el micro!!!!!
Me he guardado este video para más tarde, me pareció muy interesante lo que nos has mostrado hoy respecto a IA, el producto me pareció genial, y ojalá pudiera tener uno, pero en el momento inmediato quiero ver e instalar Vicuna, muchas gracias por el video Alejandro!
VIendo lo que tenes en tu video cuando descargaste el model, creería que no era necesario descargar dos ficheros, ya que uno entiendo que es una mejora del otro, pero supongo que lo descargaste usando el instalador que tiene el programa
Hola maestro, habrían IAs locales dedicadas en ciertas áreas(Cultura, Conversaciones, historia, matemática, música,etc.) q sean superiores a lo q obtendríamos con otras.
Cada día me sorprende más está revolución 😱
.
Gran video Alejandro y gracias por estas pruebas de innovación🎉
Gracias Mariano
@AlejandroPérez Haz experimentos para integrar pluggins caseros,es decir que por ejemplo la IA que tienes pueda usar aplicaciones como la Calculadora o acceder a archivos de texto y prompts sin que tengas que copiar y pegar,como lo que están haciendo en HuggingGpt, SmallVille, pluggins ChatGpt pero casero.
Joder, como me encanta este canal
Justamente buscaba algún proyecto opensource para hacer lo mismo pero en Android y correrlo localmente. Me has facilitado mucho el buscar. Muchas gracias y nuevo sub
Eres un crack Alejandro.Te lo has currado mucho, investigando y desarrollando este magnífico proyecto.
Creo que esto no ha hecho más que comenzar, por mucho que también le reconozca a Chomsky que tiene toda la razón.
Sin embargo, muchos ya han reconocido el exceso de hipérbole sobre lo revolucionario de esta tecnología.
Y que aún estas IAs estén muy lejos de la inteligencia artificial general no implica que,tal y como está sucediendo ya mismo, no sean verdaderamente peligrosas e incluso una gran amenaza (en buena medida porque, para variar, los políticos llegan tarde).
gracias por compartir tan interesante proyecto me da ganas de usarlo a ver tal funcioa en mi pc
Como siempre genial análisis, un video de como entrenarla estaría genial!!
Me encanta tu voz, siento que me esta hablando el antagonista de DooM 3 doblado al español jaja, muy buen video sinceramente me parece muy impresionante lo que se viene logrando con las IAs estos ultimos años..
me encanta el contenido, sigue así 😊
Excelente explicación y sistema..
Vaya locura de vídeo. Estaría genial aunque no fuera tanto tu contenido, un tutorial de como implementar stable diffusion en Photoshop de forma sencilla
Alejandro, gracias por esas infos.
Excelente video Alejandro, muchísimas gracias por hacernos conocer está maravilla. ¿Se podrá en un OrangePie?.
Saludos Cordiales.
Estaria bien que pudieramos conectarla a unas gafas con camara 3D y que nos pudiera ayudar en el dia a dia.
Seguro que en ciertos trabajos es muy util.
Lo que tu has hecho es bastante complicado para un simple terrestre como yo.
Gracias
Como siempre fantástico!! Una consulta podrías hablar en algún vídeo de hyena AI ,para entender las diferencias.Muchas gracias
Excelente 👌
Gran video Alejandro, felicitaciones.
Al margen de la performance que se nota la diferencia, qué te pareció la calidad de contenido?
Por más de estos "experimentos tutoriales".
Saludos.
Excelente video.
Congrats muy bueno tu video e investigacion
Gracias
Me gustan mucho tus proyectos
De acuerdo @TchnicalParadox, muy buen análisis, apoyemos contenido de calidad; otro seguidor p/ Alejandro 👍
Por mi parte lo veo buenísimo, tengo muchos proyectos de electrónica y quería aprender Arduino desde cero para desarrollarlos y si la inteligencia artificial te ayuda a programar, más que bien, para poder hacer un proyecto de este tipo en mi país con gente especializada son carísimos y por esto lo veo una opción viable y de modo "Hazlo tú mismo"
Excelente video
me gusta, suscrito, quiero un tuto completo de esto y una comparativa con chatgpt... puedo escribir un libro tan bueno como el tuyo publicado en amazon? que pasaría si lo instalas en tu notebook? aumenta la velocidad de escritura? gracias y felicitaciones!
Buen Video!!
Hola buenas. Fantástico video y grandisima mente.. Me as echo pensar en instalarlo en tfn sin conexión o con,, allá cada uno,, , como el asistente de ironman.
muy interesante el video, entiendo que todo eso que has hecho se podría realizar en un pc con linux sin problema, y si encima tenemos una nvidia o una gráfica amd, pues mejorará el rendimiento. Entiendo lo de buscar un factor forma mini para hacer nuestros proyectos aislando máquinas y de una manera elegante. Un saludo.
Buenas alejandro, sabes si seria posible ejecutar lo en vez de manera local en un servidor a traves de mi propia red wifi como si de una web se tratase? de esta manera podria acceder desde cualquier parte del mundo
Muy buen contenido, no hay tanto en Espanol del tema. Mi pregunta seria cual sera tu utilidad principal para este sistema?
que grande ale !
Gracias tocayo
Amigo excelente video una duda ¿que porcentaje de memoria y procesador consume está IA para funcionar ?
Es el principio del reinado de las máquinas
Exelente video como siempre Alejandro, pero olvidaste mencionar que pasa con la memoria del chat de la IA, pues en el video anterior los chats no guardaban esa continuidad en la conversación
No guarda el contexto
Alejandro. Muy buen video y me interesesa mucho. Acabo de mepezar a segyirte. Te quiero hacer una pregunta, es posible con esta IA si se puede configurar usarla como una APi? Me serviría para mis proyectos personales. Quedo atento.
Maravilloso video, felicidades Alejandro! 🤩
Me pregunto si habra alguna placa a la venta con el snapdragon 8 gen 2. Habra una diferencia importante con este, no solo por CPU, sino por RAM LPDDR5X y UFS 4.0.
Saludos!
lastimosamente no, SD 8 gen 2 en tablets de samsumg u otras, he visto algunas tablets modificadas con linux corriendo nativamente y van muy bien, solo pon en google "android tablets install linux" pero el problema es que los que ví la pantalla táctil no es muy buena (posiblemente por los drivers) y toca usar un ratón y teclado ya que se convierte en una PC, otra opción con esta misma cpu es una laptop de 200 dólares que se llama Pine64 pro y ya viene con un procesador rockchip y linux de fábrica, saludos...
Oye una pregunta, ¿Cómo sé si el modelo entrenado es con gráfica o procesador?
Que crack 🤯
K makina eres Alejandro… otro nivel…
Muchas gracias 😀
Consulto dentro de mi ignorancia si se podría llegar a usar los minadores que quedan antiguos para correr las IA ya que se terminan descartando y quisas ese poder de procesamiento se podría usar para algo mejor.
Solo dejo la inquietud gracias
Hola Alejandro, es muy interesante todo el tema de las IA, te recomiendo que trastees con stable diffusion porque tiene una de chicha... Saludos!
Siiiii
FANTASTICO.....
Excelente aporte alejandro sencilla mente magistral. Pregunta crees que con este proyecto podamos crear una especie de Jarvis el asistente de Tony start. ? Gracias leo tus comentarios.
Probablemente de los mejores videos que he visto relacionados con explicaciones claras concisas y sencillas, buen trabajo, has ganado un follower jajaja.
Aprovecho para preguntar, existe la posibilidad de conectarlo a internet?
Un saludo!
Bienvenido. En principio no se puede conectar
@@alejandroperez Tienes por casualidad un tutorial más completo y detallado de la instalación que has realizado? Gracias!
buen video alejandro me a dado que pensar tio jaajajaj creo que me voy a montar uno para preguntarle cosas del curro
una pregunta con esto la ia puede guardar regitro ? por ejemplo recordar algo que hablamos hace mucho tiempo y muchos párrafos ?
Buena currada colega!
No se hasta qué punto se podrá entrenar una IA con archivos .pst, por ejemplo. Imaginemos mi histórico de emails de varios años de trabajo. Podría dar respuestas a mis clientes como casi yo lo haría! Has investigado algo sobre cuál es la mejor opción IA para entrenarla y cómo?
Gracias 1000 😊
que interesante eso se puede hacer en una PC cualquiera para experimentos o en una virtual, tendrasn una guia me interesa colocarle inteligencia a una mi reporteria interna en la red
muy buen video , funcionaria con latte panda ?
Hola. Ya tengo andando a Vicuna en mi PC. Podrías explicar sobre como entrenarla en un determinado tema?
esta aincreible quiero aprender algo de programacion para hacer lo que necesito esta genial todo
cuando hace el paso a paso de la instalacion de todo el sofware para un pc. toma tu poderoso like y GRACIAS
Excellent video 👍 I subscríbe
honestamente es impresionante comprimir una inteligencia de esa forma, y más hacerla portable!
No esta comprimiendola la i.a
Antes de opinar vete el video @nashe. 😂
@@MachineCodes ¿cuando la conprime?
@@nashe-gr7uy se nota que no sabes que es una ia, chat gpt es una ia que usa computo de bastante servidores, y este tipo usa un ordenador miniatura que no sepas lo sorprendente que puede ser esa ventaja no es cuestión de decir que no la comprime, Esta ejecutando una ia de forma local con un cpu que no supera ni los 3 ghz y solo usa una placa ya creada para correrlo.
@@MachineCodes no tengo ni idea tenes razon
Exelente video, una consulta sobre Linux, lo instaló conectó los mandos y los recoce sin problema, pero a la hora de abrir el navegador para jugar vía streaming no los reconoce, sabes que podría ser?
GRANDEEEE
Excelente vídeo Alejandro. Omitiste decir, como detalle, que vicuna viene de vicuña, mamífero andino apreciado por la calidad de su lana.
Cierto Jon. Gracias por el aporte
Una pregunta, maestro ¿puedo usar esto en una partición de mi SSD?
(Para que conste, tengo un disco h+ibrido, la parte de SSD sería la que usara para la IA)
Excelente video, podrías realizar un video de como instalar una IA desde 0 en nuestro PC, para inexpertos. Alguien me podría recomendar una IA entrenada para abogados o análisis de Leyes. Gracias
Estan en ingles, si te interesa te paso el nombre.
@@notarizado Si por favor, me interesa. Muchas gracias.
puedo entrenar a vicuna de forma local con materiales pdf y word de la universidad?
es el futuro o mejor dicho ya estan aca los minis pc y para mi son lo mejor las cjas grandes de pc ya son de mi abulitos bien por la tecnologia
Buenísimo hermano. ¿Crees que sea posible correr la IA también en una raspberry pi?
La informacion vario (en particular la informacion editada dentro del archivo de linus de vicuna) y no se si cambio el orden de su instalacion. Podria verificar. No me incluyo el archivo text-generation-webui. gracias
Un gran video...! Intentaré replicarlo.
Una duda, se podrán entrenar en local el modelo que se descargó? Ejemplo. Incluirle algunos contenidos específicos de ciencias o cosas como esas. PD. Excelente explicación
Yo tuve un problema al usar derivados de llama localmente y esq asignan por ejemplo 16GB de vram de los 24GB disponibles y usa en el momento de inicarlo 15GB, pero al pedirle algo medianamente largo, este crashea, como si la ventana de contexto fuera largisima, y al empezar a completar, la vram se dispara llegando a los 16GB maximos asignados, como puedo aumentar la vram maxima asignada? Como puedo evitar que crashee?
Excelente exposición!!. Te felicito y te agradezco por brindarnos esta información!!.
Respecto a las IA’s, estoy totalmente de acuerdo a qué es imparable y transformadora. Es obvio que es y será una herramienta multiproposito que impulsará el desarrollo de la ciencia práctica de una manera que no podemos predecir a ciencia cierta. En investigación, robótica, medicina, energías renovables, fotografía y video, diseño, enseñanza y un sin número más de ramas de la ciencia y la cultura será penetradas de una manera revolucionaria!, pero también hay que tener en cuenta todo lo malicioso, es decir, una herramienta puede ser usada, y lo será, para hacer daño, como por ejemplo violar la seguridad informática, para el robo de distintos bienes como dinero o información. La guerra cibernética dará un salto cuántico, será una guerra de IA’s.
También la transición será traumática para millones de personas, que serán reemplazadas y que por su formación y edad, no tendrán fácil conseguir nuevos empleos. Toda transición rápida y revolucionaria, trae como consecuencia daños colaterales profundos, es muy difícil minimizarlos.
En fin, la IA es una realidad que promete un futuro muy cercano que ni un escritor de ciencia ficción puede predecir con certeza.
Saludos 🖖
Sería interesante ver si se puede correr sobre android y hacer un clúster de móviles para sumar potencia de cálculo. Por cierto muy buen video.
És 1 crack! E eu senpre aprendendo
Hola Podrias detallar que archivos y como los descargaste? me refiero a los stable-vicuna-13b-delta... descargaste todo el repo? y luego como lo corriste? podrias detallar esa parte? no hay un download file... please
estoy tratando de seguirte en cada punto, paso a paso y aun no he conseguido instalar vicuna en mi linux...
saludos.
Justo me preguntaba eso, si sería posible usar esta clase de inteligencia artificial sin internet, que funcione básicamente como nosotros "por defecto", con el tiempo seguro mejorará mucho más esta forma de ejecutarla
Pregunta de curiosidad: Que rendimiento tendría está AI en la orange pin 5 plus ejecutada en un SSD pcie m.2? Saludos desde Colombia! 👍🏻
Con esa mini computadora me armó una mini PC gamer y a la vez un TV box, lo malo es que no cuento con dinero para hacer ese armado porque es muy interesante
¿La orange pi 5 no tiene las mismas características y vale la mitad o menos?
Deberías hacer un videos diciendo los usos que puedes usar cotidianamente osea en tu caso
Hola, y si le agregas el hardware de Google Edge TPU?
Una duda, no se han hecho pruebas usando la API de alpaca?, es decir, entrenamiento directo por órdenes en un CSV y cosas así. Me interesa para generar código
Se ve interesante el proyecto, sobre el boom, me sorprende que haya tantas IA, que parece que fue de un día para otro, cómo si levantarán la piedra y salieran, también aplica para toda esa gente que dice enseñarte a hacer negocios con las IA
Hay una placas de las chinas que traen apoyo de chip para IA; las banan Pi puede hacer un vídeo evaluando estás, el vídeo está exelente
Hola Alejandro me encanta tu canal, por favor puedes decirme que chatgpt te has instalado y que dataset está basado? Gracias.
Viste siquiera el video?
video impresionante, tienes un subscriptor para siempre, gracias.
Una duda... estoy en huggingface.co/ tengo un rtx2070 , puedes ayudarme a elegir la descarga adecuada? gracias por tu amabilidad.
¡Más vídeos de AI, por favor! explicas muy bien
edit: me he suscrito 😅
Bienvenido
Imagino en un futuro muy cercano una inteligencia artificial, portable que no este conectada permanentemente a internet, pero se retroalimente de la inter acción con el usuario, via texto, voz o video, de tal manera que sea única y personal; podrían haber millones de inteligencias artificiales totalmente distintas, donde también puedas adquirir de forma gratuita o de pago módulos de actualización de conocimiento o especialización para tu inteligencia artificial. Seria una forma en que con la ayuda de estos dispositivos la humanidad evolucionaría exponencialmente en vías jamas vistas o se autodestruiría en pocas décadas.
Es un Soc ,si lo comparas con un Raspberry 4 cual es mejor ?
Hola saludos de México puedes hacer un vídeoñ, de como instalar la inteligencia artificial en Windows la verdad estoy muy verdad en entornos Linux 😅 gracias me gusto tu vídeo
Alejandro es posibles usar esta IA para minar? O algo que generar ganancias de dinero
Genial el video crack! Que opinas de hacer lo mismo con una placa de desarrollo nvidia jetson nano y ejecutarlo directamente en su gpu maxwell? 🤔
Quedo a la espera de su video🙄
Pues sería francamente interesante
Hola Alejandro, una consulta, que seria mejor? Khadas Edge2 o Lattepanda 3 Delta ??? Gracias de antemano
En términos de potencia Lattepanda
Amigo 3:18 es vicuña , saludos desde Bolivia.