“AI 반도체가 GPU를 대체한다” (박성현 리벨리온 대표)
Vložit
- čas přidán 4. 07. 2024
- 생성AI으로 정말 바빠진 곳이 있습니다. 테크회사 데이터센터입니. 쏟아지는 연산을 처리하기 위해 장당 1,000만원이 넘는 엔비디아 GPU를 수백장씩 추가하고 있죠. 전기세도 어마어마합니다.
그래서 주목을 받는 반도체가 바로 AI반도체입니다. GPU를 대신해 더 저렴하고 빠르게 AI 서비스를 할 수 있기 때문입니다. 그래서 챗GPT의 등장이 역설적으로 엔비디아의 지배력을 무너뜨리는 계기가 될 수도 있는 것이죠. 생성AI를 사용하려는 기업의 필수품이라는 AI반도체가 무엇인지, 어떤 경쟁력이 있는지 AI 반도체 스타트업 리벨리온의 박성현 대표에게 들어봅니다.
※릴레이 인터뷰 라인업 : 김지현 SKT 부사장, 배순민 KT AI2XL 연구소장, 구태언 법무법인 린 변호사, 오순영 KB금융 AI센터장, 황재선 SK디스커버리‧SK바이오사이언스 부사장, 남세동 보이저엑스 대표, 박성현 리벨리온 대표, 박종선 인포보스 공동대표, 이세영 뤼튼 대표, 김종윤 스캐터랩 대표(이루다 개발사), 이건복 마이크로소프트코리아 상무, 뇌과학자 장동선, 장민 뉴럴웍스랩 대표
편집 = 강채은 디자이너
▶티타임즈 공식 홈페이지
www.ttimes.co.kr/index.html
▶티타임즈 메일
ttimes6000@gmail.com
#챗GPT #리벨리온 #엔비디아
00:00 하이라이트
00:26 박성현 대표 소개
00:44 AI반도체, AI가속기, NPU. 뭐가 맞나
02:32 AI반도체는 어디서 일을 하나?
04:04 AI반도체는 언제, 왜 등장했나?
07:58 챗GPT의 등장이 반도체 시장에 미치는 영향?
11:09 그럼에도 왜 GPU가 대세인가?
13:32 AI반도체는 어떤 경쟁력이 있나?
16:01 AI반도체가 발달하면 엣지에서도 인공지능 연산이 되나?
17:17 AI반도체 활용하면 칩을 덜 써도 되나?
18:20 반도체도 버티컬하게 가는가?
21:40 리벨리온은 어떤 제품을 만들까?
24:27 반도체 회사는 챗GPT 시대를 어떻게 대비하나?
27:17 최종적으로 LLM이 스마트폰에서도 돌아갈까? - Věda a technologie
![박태웅 의장 "인류역사상 가장 빠른 속도의 변화" [코너별 다시보기]](/img/n.gif)
국내최고 고객경험 설계 전문가 차경진 교수의 ‘데이터 기반 고객경험 설계 방법론’ 강좌 출시
□ 기업 사내교육용 구매 : ttimes6000@gmail.com / (02)724-7718 / 010-5327-9524
□ 개인 수강 : 티타임즈 교육사이트(ttimes.liveklass.com/ )
--------------------------------------------------------------------
📌오늘의 주제 모아보기📌
00:00 하이라이트
00:26 박성현 대표 소개
00:44 AI반도체, AI가속기, NPU. 뭐가 맞나
02:32 AI반도체는 어디서 일을 하나?
04:04 AI반도체는 언제, 왜 등장했나?
07:58 챗GPT의 등장이 반도체 시장에 미치는 영향?
11:09 그럼에도 왜 GPU가 대세인가?
13:32 AI반도체는 어떤 경쟁력이 있나?
16:01 AI반도체가 발달하면 엣지에서도 인공지능 연산이 되나?
17:17 AI반도체 활용하면 칩을 덜 써도 되나?
18:20 반도체도 버티컬하게 가는가?
21:40 리벨리온은 어떤 제품을 만들까?
24:27 반도체 회사는 챗GPT 시대를 어떻게 대비하나?
27:17 최종적으로 LLM이 스마트폰에서도 돌아갈까?
시청해 주셔서 감사합니다😀
좋아요와 구독은 큰 힘이 됩니다
엔비디아가 npu만들어서 팔면 되는거 아닌가요?
❤
이 영상 올라오고...
10개월만에...
NVDA(엔비디아) 주가 4배 정도 올랐소.
이 때 엔비디아를 샀어야 ㅋㅋㅋ
NPU는 Neural Processing Unit의 약자로, 인공지능 연산에 특화된 칩셋입니다. GPU와 비교할 때 NPU는 매우 낮은 에너지 소비와 높은 성능을 가지며, 더욱 효율적인 인공지능 연산을 가능하게 합니다.
현재는 GPU가 인공지능 분야에서 널리 사용되고 있지만, NPU의 등장으로 인해 GPU와 경쟁하게 될 것으로 예상됩니다. NPU는 인공지능 분야에서 높은 처리 성능과 에너지 효율성을 가지므로, 이를 적극적으로 활용하는 기업이 늘어나고 있습니다.
그러나, 아직은 NPU가 GPU를 대체할 정도로 성능이 뛰어나지는 않습니다. 또한, NPU가 사용되는 인공지능 분야가 현재는 한정적이지만, 앞으로 기술의 발전과 함께 다양한 분야에서 적용될 가능성이 높습니다.
따라서, NPU는 앞으로 대세가 될 수 있는 기술 중 하나이지만, GPU와의 경쟁에서 이길 수 있을지는 시간이 지나야 알 수 있을 것입니다.
미래에서 왔는데, 엔비디아 여전히
잘 나가고 있네요.. 역시 전문가조차도 미래를 예측하는건 힘드네요
일초뒤 미래?
저 사람은 자기네 회사께 엔비디아 이길것이라고 주장하는것 임. ㅎㅎㅎ
그런데 엔비디아는 CUDA라는, 자기네 칩 만 돌아가는 라이브러리를 가지고 있어서. AI계를 거의 독점 함.
@@user-id7db1xo7f 미래 불확정한 싯점으로 말하는 자체가 난센스네요..
1초 뒤도 미래예요..
저 사람 얘기가 먼 훗날에는 맞을수도 있죠. 지금 AI 발전 즉 소프트웨어의 발전이 너무 빠르고 그걸 따라가고 그 하입트레인에 탑승하기 위해서는 범용성 높은, 그리고 원래 써오던 성능도좋은 엔비디아 쿠다 gpu들을 쓸수밖에 없어서 엔비디아 주가가 미친듯이 오르는건데, 이 상황을 무조건 빅테크들은 벗어나려고하겠죠. 아무리 좋은 AI를 개발해봤자 결국 엔비디아한테 과하게 의존해야되는게 너무 큰 리스크니까요. 그래서 오픈ai의 샘알트만같은 사람들이 AI반도체즉 하드웨어 개발에 올인한다 선언하는거고요. 이 AI 반도체개발과 생산이 얼마나 효율적이고 빠른시일내에 가능할지는 모르겠습니다만, 이게 오래걸리고 힘들수록 엔비디아 주가는 미친듯이 더 오를거고, 성공하는것처럼 보이는순간 엔비디아 주가는 빠지고 매출은 줄어들겠죠. 근데 솔직히 빠른시일내에 되기에는 힘들어보입니다. 그 판단이 섰기때문에 지금 엔비디아 주가가 미친듯이 오른거고요. 저 레벨리온 대표님은 엄청나게 성공하실것같습니다. 엔비디아 주가가오르고 패악질과 독점이 심해지면 심해질수록 결국 반사이익 보는건 저런분들이죠. 물론 실력이 뒷받침될때의 얘기지만요.
@@telecast712 레벨리온은 힘들지 않을까요 ? 큰 기업들은 자체 솔루션 개발하고. 작은 회사들은 엔비디아 꺼 계속 쓰는 방향으로 갈것 같습니다. 제 생각엔.
엔비디아 경쟁사라 이렇게 떠드는게 당연했지만 이 영상이후 몇배가 오른거냐ㅋㅋ
이렇게 틀릴수가!!!
칩들끼리 카드끼리 랙들끼리 묶는 IO가 엄청나게 어려운 것으로 들었는데 대역폭에 엄청난 자신감이 있으신게 아닐까 싶습니다. 놀라운 자신감입니다. 최종적으로 AI추론 모델이 로컬에서 대규모로 돌아간다면 휴대폰이 아닌 처음엔 자율주행 차량 향후엔 로봇이 되지 않을까 싶습니다. KT와 함께 LLM 모델에서 강자가 되시길 진심으로 기원합니다.
이때가 엔비디아 200불때인가?? 지금 700불이네;;;;.. 5월 400불 점프.. 1월 700불 점프
지금 900불 박스..
엔비디아는 여전히 잘나가고있네요. 오를때마다 조금씩팔다가 다시 일부 구매하고 홀드중입니다. 좋은 기업은 언제나 돌파구를 찾는듯합니다. 해외 유명한 분석가가 올해부터 gpu 급격히 밀린다더니 지금 엔비디아 주가는 고삐풀린망아지네요. 국장 영상보면 우리나라 주식장점만 너무 내세우는데 국장 미장 공평히 긍정적인 분석 부정적인 분석 부탁드린ㅂ니다.
이 인터뷰를 어느순간 반틈쯤 알아듣는 내가 신기하네. SOXL에 물린지 2년이고 엔비디아는 물렸다가 이제 수익전환하니 이런 말도 반쯤은 알아듣게 되는구나.
역시 주식관련 영상은 1년쯤 지나고 보는게 제일 재밌음 ㅋㅋㅋㅋ
박대표님 깊이 있고 실전에서 나온 지식, 감사합니다!
기자님이 준비를 많이하셔서, 좋은 내용을 많이 이끌어 내셨네요.
기자시군요.. 저는 전문가신줄.. 질문이 좋습니다..
지금보면 이거 되게 민망하겠다.
AI 대장주가 엔비디아로 주가는 폭등중인데….
너무 생소한 얘기인데 대충 알아들은 것 같은 착각을 일으키는 신기한 현상. 정말 똑똑하구나... 대단하구나... 이런 생각이 드네요. 보통 사람들하고는 뇌구조가 다른 듯.ㄷㄷ
좋은 인터뷰 감사합니다
이 기자도 전문가 수준이네요,
"리벌리언"사명이 암시하듯이 기성제품을 확 뒤집어 보세요,한국의 스티브잡스가
되시길 기원합니다
이제는 한국안에서만의 목표가 아닌 전세계를 상대로 해야죠.
공학박사라고 생각이안들정도로 진짜 설명을 쉽게 잘해주시네요. 레전드입니다!
지나가던 공학박사과정생 뼈맞고 웁니다 ㅋㅋㅋㅋㅋㅋ
새로운 시장에서 크게 성공하시기 빕니다!
좋은 영상 준비해주셔서 정말 감사합니다
ㅋㅋㅋ 저때 엔비디아 산 사람들이 진짜 박사지 ㅋㅋ
와.........! 정말 좋은 정보 많이 얻어 갑니다. MSDC에서 업무 경험도 있어서 언급하시는 내용들이 반갑?네요. 건승 하세요! 응원 드립니다.
엔비디아는 시총 1위 찍을 기세네요. ㅠㅠ
ㅋㅋㅋㅋㅋㅋㅋ
주식 사셨나요?
저는 믿지 못할 수익률을 기록중 입니다.
세금 걱정해야할 판입니다.
@@ryankim7372 얼마나 넣으셨나요? 수익률이...?😊
그런데 지금은 떨어지네요 결국 이 영상이 맞았나
@@ryankim7372 수익금액이...?
이번 인터뷰는 정말 레전드네요. 현업의 현장 이야기를 생생하기 듣고 배울 수 있어서 좋았습니다. 무어의 법칙이 무색하다는 말에 변화가 대체 얼마나 빠른 건지 감도 안 오는 상황입니다.
정말 쉽게 잘 설명해주셨네요. 감사합니다.
오히려 반대로 엔비디아 지배력은 이제껏 어떤 분야에서도 인류가 겪어보지 못한 정도로 막강해질 걸.
여러 방면에서 걱정될 정도로...
왜이렇게 생각하시게된거에요?
왜냐면 엔비디아가 10년동안 해오던거니까요. 마치 AI를 상정하고 만든것마냥 gpu끼리의 연결 칩렛 최적화가 다 끝나있고 범용성도 넓고요. 범용성대비 성능으로 쳤을때 압도적으로 엔비디아 유리하고 빅테크들 이외에 그냥 AI를 쓰고싶은 나머지 중형 기업 또는 개인들은 무조건 엔비디아 gpu를 사야합니다. 그리고 단순 성능으로도 엔비디아를 아무도 못따요. 라데온? 인텔? 어림도없죠. 근데 올해 더 좋은 gpu가 엔비디아에서 나온답니다. 지금도 못따라가는데 그거보다 더 좋은게 나온다? 완전한 독주죠. 진짜 앞으로 한 5년은 독주할거같네요 최소.
2편이 기대되네요
cpu = 배달회사 + 대형화물차
gpu = 1톤화물차
npu = 오토바이
ai = 치킨
치킨을 배달할때는 화물차도 되지만 여러대 사려면 도입 비용 비싸고 운용 하려면 기름값도 많이든다ᆞ 골목길이나 단거리는 ᆞ 오토바이로 하는것이 효울적이다.
알고리즘 = 배달의민족이냐 쿠팡이츠냐
전용하드웨어 하번에 한집 배달
쉽게 설명해주시는게 정점에 오른사람들이 비전문가에게 해줄수있는 최고의 설명이란걸 알아서 좋은 정보 감사합니다
뭔가 지금 느껴지는 감정이
제가 한 2006년 2007년 이럴때 스마트폰이 등장하면 어떻게 세상이 바뀔거 같다, 스마트폰은 필요하다 필요하지 않다, 스마트폰은 세상을 점유한다 못한다 이런 갑론을박이 있던 느낌과 굉장히 유사하네요
AI 중 반도체쪽일까요? GPT 등장이 그렇게 느껴지신걸까요?
개발자 인건비 합보다 gpu 전기세값이 높아지면
Npu가 매우 중요해질거 같습니다
우와...AI 반도체 이야기에서 깊이가 다릅니다...^^
다른채널에서도 박성현 대표 설명 들었지만, 티타임즈에서 명확하게 정리가 되네요!
정말 많이 배웁니다👍 대표님 한국 업체가 글로벌 시장에서 활약할 수 잇는 날을 기대하겟습니다 :)
박성현 대표님 정말 다양한 이야기 감사합니다😊
와 기자가 정리 너무잘함
반도체 팹리스 설계단이나 파운드리에서 전력효율성을 앞으로 얼마나 빠르게 향상시킬 수 있을 진 모르겠지만, 그 속도가 빠르지 않다면 smr같은 탄소배출량이 적으면서도 기저 전력을 공급할 수 있는 에너지 쪽이 더 각광받겠네요.
리벨리온 엠엘퍼프 우승을 축하드립니다. 삼프로에서 보고 요즘 근황이 궁금했는데 반갑고, IPO기다리고 있겠습니다. 기왕이면 나스닥에서 상장하시길...!
Npu.tpu.테슬라 도조칩이 gpu를 대체할거라고 의심만하다. 대표님이 확실히 설명해주시니 속시원 하내요.
Per 160배에 거래되는 엔비디아 정체성이 드러난 강의.
ㅎㅎㅎ
무너지긴 개나 ㅋㅋㅋ
우와... 압도적으로 AI시장 투자에 필요한 정보들만 꽉꽉 채운 영상이네요 ..... 채널 구독박을..까?
진짜 제대로 알려주시네
전문가의 의견을 듣고 투자하면 실패하는 이유가, 전문가라는 분들은 100% 어는 한 조직에 속해서 일을 하고 있을 수 밖에 없기 때문에 객관적인 의견이 나올 수가 없어서 이죠...
세상의 전문가라는 것이 실제는 엉터리라는 것을 검증했네요...
같은 일을 하는 사람이라 관심되게 봤네요. 박성현 말씀하시는 자막중 오타가 있어 말씀드립니다. PASM이 아니라 PA Semi 정정하면 더 좋을듯합니다.
성능으로는 증명했네요. 대단하십니다.
잘봤어요 질문답변이 구체적이라 좋음
쿠다 대체하는게 쉬웠으면 이미했죠...
사실상 쿠다생태계 벗어나는게 불가능합니다
마치 강연을 듣는듯한... 재밌었습니다.
이 사람 말 듣고 엔비디아 일찍 판사람들 피눈물 흘리는중 언젠가 이분말데로 되겠지만 그날은 빨라야 10년후라는게 함정
인공지능이 보편화 되려면, 전기세 해결해야 하고, 최적화도 필수고, 공정화도 1나노까진 가야, 뭔가 의미가 있지 않을까 생각함... 지금은 특정 직업군에게만 좋음,,
뭔가 다 막연한 말만 하시는 거 같아요.
이런 사람들은 물은 물이요, 산은 산이로다. 앞으로 뭔가 진행되지 않는 대화법입니다.
소프트웨어 엔지니어입니다. 제가 별로 맞상대 안 하는 타입
교육 모든 생산 제작 방산 서비스 전부가능해짐 법이 안막았다면 지금쯤 사람들은 모니터 스마트폰이 아닌 안경착용하고 다니는게 일상일정
지금 샘의 말이 왜 천기누설이라고 하는지 이걸보니 더 이해되네요. 향후 엔비디아 위력이 더욱 공고해지겠어요.
라고 할 때 엔비디아 샀어야지 ㅋㅋ
K전문가는 믿을게 못된다는 걸 증명하는 영상😂
대단하신 분이네요
지금 봐도 대단하냐 ?
전기 이슈가 굉장히 골치 아프죠. 어떤 미래산업 관련 논문을 본적이 있는데, 거기서도 지적되는 사안이었습니다. 딥 러닝, 블록체인, 전기차, 메타버스 등 미래산업이라 불리는 기술은 과거 제조업 시대와는 비할수 없는 전력 소비량에 있다. 각 기술당 기존 재래 기술에서 드는 전력 사용량의 80 - 100배 정도의 전력 사용량을 보이는데, 이건 간단히 말해 전세계의 금융 거래가 블록 체인 거래로 바뀐다고 가정할시, 지금 현재 전 세계의 온라인 금융 거래에 발생하는 전력 소모량은 같은 정보량을 처리한다고 봤을때 전략 사용량이 100배가 늘어난다는 것이라고 합니다.
문제는, 현재 전력 사용량을 증가 추세가 아닌 탄소 문제로 인한 감소 추세에 있다는 것으로, 각 기술들의 한계는 어쩌면 기술적 한계로 인해 오는 것이 아닌 전력량 이슈로 인해 정체될 가능성이 있다더군요. 지금과 같은 도입기의 적은 전력량이면 단순히 연구 목적으로 쓰이니깐 눈에 띄지 않지만, 각 기술들이 현업과 일상에서 쓰이게 되면 그 전력량 이슈는 가시적으로 문제가 된다는 이야기입니다. 가용 전력량은 줄어드는 추세인데 필요한 전력량은 기하급수적으로 늘어나기 때문에 핵융합 발전이 상용화 되지 않는 한 이 문제는 언젠가 봉착하게 될거라고 하더군요.
만일 핵융합 발전 같은 솔루션이 마련되지 않으면, 각 국가는 국가 경쟁력을 위해 국가나 거대 기업이 전기를 독점하는 상황으로까지 갈수 있을 거라는 이야기입니다. 더 이상 가정이나 인프라에서 전기를 사용할수 있는 시대는 없어지고, AI나 금융, 군사 분야등 국가 경쟁력과 직결되는 분야에서만 이제 전기가 허용되는 시대가 될지도 모른다고 전망 하더군요. 각 미래 기술이 곧 국가 경쟁력이 된 시대에서 국가들이 기술을 포기하고 시민들의 생활 보장을 선택할 리가 없고, 그렇다면 전 세계적으로 국가 경쟁력을 위해 시민들의 생활에서 전기를 박탈하는 방향으로 갈 가능성이 높다고 합니다.
좋은 글입니다
시민들에게 전기를 박탈하면 시민들은 어떻게 생활하면 되는걸까요?
권위주의 국가에선 가능할지 모르겠으나 민주주의 국가에선 어려울듯
아 정말 암담한 디스토피아 영화 시나리오에서나 다룰 법한 이야기인데 너무 현실적으로 와닿는 내용들이네요.. ㅠ
@@jellyjoa1423 그래서 에코 라이프로 가나봅니다.
10개월이 지난 지금 엔비디아 주가는 거의 사상 최고를 찍고 있네요 😂
채굴은 초창기에 CPU였다가 GPU로 대체하고 나중에 가서야 ASIC으로 대체한 사례가 있는걸 봐서는 AI도 이런식으로 대체될 가능성이 있을지도 모르니까요.
겸손
최근 cpu를 보면 특정 기능에 효율적인 코어가 들어가고 있습니다. 엔비디아도 텐서코어라는 코어가 추가됐죠. 아마 곧 특화된 코어를 내장해서 나올겁니다.
재밌어요
리벨리온 상장하기 전에 투자 하려면 어떻게 하나요 ? SPEC 만드시나요 ? 꼭 알려주세요
와................
사업은 모르겠는데 주식투자는 절대 하면 안될분일듯
클라우드 기반 os 만들면 개인용은 gpu,저장장치 기타등등 부품 사라질텐데
기업들은 gpu,저장장치 더 필요 하겠지만
클라우드 기반으로 만들면 전자기기 스펙도 딱히 필요없고 서버망 유지비만 월정액 받으면
아직 만드는 회사가 없는거 같음
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
컨슈머 개발자가 AI 가속기에 쉽게 접근할 수 있어야 생태계가 만들어지지 않을까요?
설명을 뭐랄까 되게 잘하시네요 전문용어가 나오면 아무래도 듣다가 뇌정지 오는데 익숙하지 않은 용어임에도 되게 이해가 편하다는 생각이 들었습니다 감사합니다
박성현 리벨리온 대표님, 그대는 진정한 '대한사람'입니다. 존경합니다.
설명진짜잘한다
비전문가가 기본적으로 알아야될 것들 설명 잘해주네...
legendary!
부족한 지식선에서 사물 인터넷에서는 과연 npu가 역할을 할 수 있을까요 ?
지금 사물인터넷을 말하는 거라면..
사실상 내장되어있는 SoC로도 아주 충분합니다.
음...공상인가? 아직 시기상조인듯. GPU가 문제가 아니라 개발프로그램의 쿠다를 따라 잡을수 있을것인가
리벨리온 화이팅~!!!
대량생산이 가능한 가장 좋은 ai칩도 엔비디아가 만들고 있는데...
어떻게 엔비디아의 지배력을 무너뜨린다는 건지 참...
15:00😊
AI반도체로 학습, 추론이 가능하면 LLM도 한번 해보시면 어떨런지요?
전혀 아닌데 ㅋㅋ 엔비디아가 없음 chatgpt도 핫바지죠~~
엔비디아 주가가 하늘을 찍는구만ㅋㅋ
지금보다 더 좋은 새 알고리즘이 나오먄 반도채를 새로 사야겠네요. AI반도체의 한계인가요?
2부 링크 어디있나요?
쿠다코어같은건가 보네요 화이팅입니다
앤비는 손놓고 가만 있으까? 희망사항을 늘어놓으신듯
npu는 ai 시스템에서나 쓰고
일반 컴퓨터는 gpu 쓰게 된다는건감
나중엔 개발자를 위한 ai 특화 컴퓨터가 나올지도 모르겠군
예전에 서버 컴퓨터가 나왔듯이.
Nvdi 의 약점 모르고 있을까요 ? 기술개발은 계속 되고 있을텐데 ?!!!
믿고보는 이재원 기자
영어 발음이 너무 최고이시네요 ㅋㅋ
지금 보면 과연 엔비디아의 H100이나 이길수 있을까... 엔비디아는 이제B200이 나오고 내년엔 다음게 나오고 하는데 아직 제대로 서비스조차 못하고 있는 스타트업...
엔비디아 쿠다 생태계가 그렇게 편하다면
엔비디아가 쿠다 생태계 기반의 NPU를 개발 안하는 이유가 있나요?
이재원기자 박성현 대표님 사촌?? ㅋㅋ 분위기 비슷해요.... 박대표님 통찰력있는 의견 기다렸어요..
우와. 역시 반대로 하는게 답인가
AI의 핵심은 판단과 인식입니다.
일반적으로 인식 분야의 데이터는 음성, 그림, 영상, 그리고 측정값 등이 있고 이거들은 보통 현재 컴퓨터에서 처리하는 16, 또는 32, 64bit를 기본으로 하는 매우 큰 정보량을 갖는 것이 일반적이고, 판단의 분야에서는 이렇게 인식 분야에서 처리된 정보나 자연 정보를 기반으로 판단을 할때 그 정보를 그대로 처리하면 매우 비효율적인 연산처리를 하게 됩니다. 그래서 기존의 GPU를 이용하여 AI연구를 할때 영상 등과 같은 데이터를 처리하는 것은 꽤 괜찮은 효과를 가져다 주지만 처리된 결과를 가지고 판단과정을 거칠때 이 GPU라는 놈의 기본 처리 데이터폭이 너무 커서 오히려 비효율적인 처리과정을 보인다는 것입니다. 특히 매우 짧은 시간에 반복적으로 판단처리를 계속해야 할 경우에 기존의 GPU는 너무 비효율적이라는 것이 문제이죠?
그래서 요즘은 데이터의 처리와 색인(인식)정도만 기존의 시스템에서 수행하고 그것을 기반으로 판단해야 하는 프로세서를 위한 전용 칩을 개발하는 추세이죠?
그래서 AI칩도 이제 매우 다각화될 것입니다. 우리나라에서도 많은 발전이 있었으면 합니다.
맞는말이긴함. 지금은 지속적인 연구개발하며 배포하는 사이클이여서 npu 도입하기는 시기적인 상황이 아님. 그러나 완성형으로 종착점 찍을만한 모델이 나오면, 비용 절감 단계이고 그때는 하드웨어적인 부분에 있어서 대대적인 수술이 진행되긴 할거임. 엔디비아는 그래도 탑이지만, 매출비중에서 빅테크가 사주는 비중은 줄어들고라고 봄. 주식은 광기라 뭐 어캐될지 모르지
엔비디아가 발맞춰움직일거라 믿는다
그렇게 되면 cup를 못팔게되잖아요. 많은 기업들이 그렇게 망했습니다. 기존의.파이를 쉽게 포기못해서 새로운 기술이 나왓는데도 능력은 되나 적용을 못해서 망했죠 노키아가.대표적
특정 업체 집중화 독점이 가능한지 ~ AI 세상
대단하신분~!!
상장언제하나
11:26 ChatGPT 때문에 거대 IT기업들이 줄서서 황당한 가격의 Nvidia H100을 줄서서 사는 현상황 ?