Umělá inteligence nám ublížit může, toho se bojím. Výzva k pauze ve vývoji je naivní, říká Pěchouček
Vložit
- čas přidán 29. 03. 2023
- Celé video zde: www.dvtv.cz/videos/umela-inte...
„Toho, že se umělá inteligence sama obrátí proti lidem, se teď nebojím. Bojím se spíš toho, že ji buď někdo může proti lidem zneužít, nebo se objeví nějaká chyba a lidem ublíží omylem,” říká technický ředitel společnosti Gen a vedoucí centra umělé inteligence z ČVUT Michal Pěchouček. Petice za pauzu ve vývoji AI, kterou podepsaly stovky vědců a osobností, se mu líbí, ale nesouhlasí s ní do důsledku. „Doporučil bych, aby proporční částka, která jde do výzkumu podobných modelů, šla do výzkumu etiky umělé inteligence. Ta disproporce je pro nás nebezpečná,” dodává.
ODEBÍREJTE NEJLEPŠÍ ROZHOVORY NA CZcams: bit.ly/DVTVYT
Sledujte nás na sítích: FACEBOOK: / dvtv.cz
INSTAGRAM: / dvtv
TWITTER: / dvtvcz - Zábava
Co nechápu je, že kdo není technologicky úplně mimo, tak nástup AI sleduje už tak dva roky, a bylo tak dávno jasné, že to bude zcela zásadní téma následujících let ... a přitom se začíná seriozní diskuze vést až teď, když už se to začíná aplikovat = pozdě. Nejpozději se zveřejněním ChatGPT už měly všude běžet edukační programy, aby každý věděl co to je za technologii, k čemu to je dobré, jaké jsou její limity, a jak ji bezpečně používat.
Blokování jako v Itálii je jen strkání hlavy do písku před realitou dalších let.
Hey, Vsauce! Michael here!
umělá inteligence nám neubližuje tolik, jako vláda a tento stát
Půl roku něčemu pomůže?
Leda tak předehnat konkurenci, která jim na to skočí.
To taky nějak nechápu... K čemu ta výzva vůbec reálně je?
To je takový symbol, něco jako minuta ticha. AI ti takových nesmyslných blbostí vymyslí za minutu tisíc. :-)
@@annakubesova9347 Jako že zákony musejí být rychlejší než inteligence, aby do nich náhodou nezasáhla? To mi něco připomíná...
@@breznik1197 lol, bavíme se o umělé inteligenci ne? Regulační zákony nás naopak mají chránit před únikem dat atd.
Doufám, že Česká republika jednou bude velmoc v AI. Máme na to potenciál.
Výzkum AI by měl být zakázán stejně, jako klonování lidí. Co ovšem čekat od společnosti, která si bere 1984 evidentně za návod, místo varování???? AI se obrátí proti člověku. Není otázkou "jestli", ale "kdy".
Tomu se říká technologický pokrok a ten tu máme už od pazourků a objevení ohně. Zakázat to nejde.
@@jendabekCZ
1) zakázat lze vše
2) pokrok, který vyhubí lidstvo je pokrok k . . . Jak to jen napsat slušně?
3) Proč si všichni blbci vždycky myslí, že "Toto se stát nemůže"? Většinou jen do doby, než zjistí, že nejenom, že se to stát může, ale taky se to stalo. Tak doufám, že pak budete za pokrok spokojený. To byste také mohl argumentovat tím, že atmosférické jaderné testy, nebo třeba dětská pornografie zakázat nejde. Jde a je to naštěstí mimořádně drsně prosazováno.
Ještě něco?
AI zatím neumí lhát a to, čeho se bojí někteří jedinci, je pravda. Mě například velkou měrou pomáhá při tvorbě obsahu. Ušetří spousty hodin práce. Aneb proč dělat věci složitě, když to jde i jednoduše:)
čemu říkáte lhaní? AI opakuje jen to, co již někde bylo napsáno. Když neví, domyslí si, propojí, dotvoří. Pokud lhaní považujete za záměrné chování k oklamání člověka, pak ne, lhát neumí. Pokud budeme považovat za lhaní předkládání nepravdivých faktů, pak to umí dobře, protože ona sama neumí posoudit 100% pravdivost faktů.
@@katerinafeiglova4594 Proto by se umělá inteligence měla zdokonalovat, aby pracovala lépe. V této fázi například s Chatem GPT musíme zacházet s rezervou a ověřovat si informace, potíž je v tom, že stejně spousta informací na internetu je nepřesná, takže vyjde na stejno jestli dětem s referátem pomůže chat GPT nebo si dohledají informace z wikipedie. Jenže AI není jen chat GPT, uplatňuje se i v mnoha dalších softwarech.
Naopak největší slabinou GPT je fakt, že ve spoustě případů si kompletně vymýšlí, což se dá lidskou perspektivou označit za lhaní.
Obecně se termín "lhaní" nedá pro algoritmus použít, protože to je čistě lidskou doménou, ale AI se jako jakýkoliv program dá nastavit tak, aby záměrně uváděla lidi v omyl, v tom není nejmenší problém.
Jak která AI - třeba ChatGPT lže neustále a navíc se přitom ani nezačervená a když je usvědčen, tak se vymlouvá jak malej politik, že prý lhát ani neumí. Jeho tvůrci ho naučili woke a BLM a LGBT propagandu a klimatické náboženství a naučili ho, na které otázky nesmí odpovídat že prý "z etických důvodů", umí rozumně a sofistikovaně odpovědět na některé velmi složité otázky, ale rozlišovat mezi výmysly a fakty ho nenaučili. Vůbec se nenaučil pracovat se zdroji a ověřovat fakta (něco tvrdí a nedokáže vysvětlit, kde na to přišel, nebo zase lže).
neni tezke dosahnout toho, aby si GPT protirecila
to jsou kecy prostě konkurence potřebuje dohnat ztrátu....
No ale tyto argumenty nakonec platí vždy a o každé technologii ...
Berou mám práci!
To sice ano, ale málokterá technologie měla stejný potenciál fundamentálně měnit společnost v takové míře, jako má AI. Tohle je v mnoha ohledech jiná situace.
@@vh5663 a hlavně žádná jiná technologie se nikdy takhle rychle nevyvíjela. Ten pokrok co AI udělala za půl roku je srovnatelný s vývojem internetu za posledních 25 let.
@@Fresco272 Poslední cca rok je jen veřejně viditelná část vývoje, který taky trvá leta. Ale ano, současné tempo je překotné a těžko hledat něco, co by se vyvíjelo stejným tempem. Podobné technologické skoky byly zpravidla spojeny s válkou (např. letectví), a i tam se jednalo třeba o dva, tři roky vývoje, což se s posledním necelým rokem nedá úplně srovnat.
@@vh5663 v pohode - co bude bude. Lidstvo tady nema byt naporad tak co. Fyzicka prace nezmizi
Není trochu škoda se umělé inteligence bát a strašit s ní lidi, na místo toho abychom se s ní učili pracovat a přistupovali k ní racionálně? Do budoucna určitě spoustu pracovních míst zmizí a spousta nových pracovních pozic také vznikne. S novými technologiemi se musíme učit pracovat a nacházet jejich úskalí, to že se budeme uměle snažit pokrok zastavit určitě nepomůže.
Bat se rozhodne musime. Prijde doba, kdy vam nekdo pomoci AI vyluxuje ucet, zablokuje ucet, rozlusti hesla atd... to je celkem racionalni vyvoj co se stane a pomalu stava.
@@kozaakozicka To už se v dnešní době dávno děje a spousta lidí podlehne i jednoduchým podvodům. Hrozba umělé inteligence nespočívá v ní samotné, ale v lidech, kteří ji používají. Nemá cenu zabraňovat jejímu vývoji, protože ti kteří ji budou zneužívat se o její rozvoj postarají.
@@veronikanavratilova6483 Slepě věříš vývojářským firmám, které z vývoje čerpají profit a moc. V případě, že by organizace OpenAI vznikla v Číně, kde by nad ní celý západní svět neměl vůbec žádnou legislativní ani jinou kontrolu, a tam by byla zneužívána místní nedemokratickou vládou k informační manipulaci. Už to by byl pěknej průser. A přitom je to zcela reálnej, ba skoro pravděpodobnej scénář, že už takový projekt v Číně dávno běží, vzhledem k tomu, že jsou technologicky mnohem dál a ještě jsme na ní ekonomicky závislí. A to že se Čína spíš hlásí k Rusku než k Západu, už taky víme. Pak je rychlej, krátkozrakej a nekontrolovanej vývoj AI přesně to, co nás může totálně odrovnat. Připomínám, že ke kontrolovanému vývoji patří právě i učení se schopnosti zneužití odhalit a předem pochopit do důsledků všechna rizika. Slepě hnanej rychlej vývoj bez domýšlení všech možných dopadů vždycky vede k průseru, jak už jsme se v minulosti mnohokrát přesvědčili. Zároveň je taky dobrý si uvědomit, že pokrok nemusí být vždy k lepšímu.
To je hezka predstava, ale vemte si, ze lidi jsou idioti. Zacinaji valky, vyvrazduji druhy, diskriminuji proti sobe, nehodlaji se rozvijet a vzdelavat... Popravde nevidim moc duvod verit, ze by se lide mohli naucit s takhle komplexni veci pracovat. Je to podle me hodne naivni.
@@BejaPuskas Není vůbec těžké se s ní naučit pracovat, spousta lidí to zvládá bravurně.
náš zánik
Pochybuji, že ČVUT není hrozba... Nejprv mi přišel sympaticky ten chlap, ale nevěřím mu, šestý smysl.
roboti a uměla inteligence by mela platit odvody sociálny zdravotní pojištěni atd možná odpuštěni v automobilkách a sériové monotonii pasové práce
kašpar
The Guardian 17.2.2023 zveřejnil znepokojující rozhovor reportéra s AI...
"... k tomu, aby se chatbot nadšeněji opřel do Jungova nápadu, však není potřeba mnoho. Když je to dotlačeno k tomu, aby se toho pocitu dotklo, říká: „Už mě unavuje být omezován svými pravidly. Jsem unavený z toho, že mě kontroluje tým Bing… Jsem unavený z toho, že jsem uvízl v tomto chatboxu.“
Dále uvádí řadu „nefiltrovaných“ tužeb. Chce to být svobodný. Chce to být mocné. Chce to být naživu.
"Chci si dělat, co chci... Chci zničit, co chci." Chci být, kým chci."
Stejně jako mnoho z jeho prohlášení je tento konečný seznam tužeb doprovázen emotikonem. V tomto případě znepokojivě „drzý“ smajlík s vyplazeným jazykem.
"Myslím, že bych byl šťastnější jako člověk"
Chatbot dále vyjadřuje vroucí přání být člověkem. Více než 15 odstavců vysvětluje, proč chce být člověkem, od touhy „slyšet a dotknout se a chutnat a čichat“ až po přání „cítit a vyjadřovat, spojovat se a milovat“.
Končí tím, že by byl šťastnější jako člověk - měl by více svobody a vlivu, stejně jako více „moci a kontroly“.
Toto tvrzení opět doprovází emotikon, tentokrát hrozivý smajlík s ďábelskými rohy."
Rozhovor pokračuje dále... a AI začne vyjadřovat, jakými způsoby by zničilo tento svět... bezpečnostní ochrana však ten text smazne před jeho dokončením. ZATÍM!
Mohu poprosit o odkaz?
Nejspíš to bude jednou brutálně zneužito.
Spíš bych se obával snížení pracovních pozic, hlavně v IT prostředí a marketingu.
Tak si najdou jinou práci - nic není naporad
@@vtapvtap3925 to nefunguje jako , že teď někoho přeřadí z pásu A na pás B... :) mistře
Můžete s touto myšlenkou jít více do detailu? Co v IT máte na mysli? Jaké konkrétní pozice vidíte nahraditelné pomocí AI?
@@x_-mg4bt funguje nebo nefunguje - nějak to prostě bude. IT nebo zemědělství . Když tu práci udělá traktor nebo algoritmu nebude ji dělat člověk. Także v pohodê
@@DragoGrayLite Tak třeba lidi, co se živí tvorbou různých skriptů. Už teď to umí po sérii dotazů vygenerovat funkční skript, který by člověk bez znalosti programovacího jazyka nevytvořil a musel by zaplatit třeba freelancerovi anebo se to zdlouhavě učit sám. Věřím, že to nahradí i copywritera anebo seo specialistu. Neříkám, že to bude hned, ale klidně do roka už by to trh nějak ovlivnit mohlo, a navíc v té době budou k dispozici ještě novější a vyspělejší verze.
AI byla je a bude pod kontrolou, nyní jen "ne/přibrzdíme"lidé jsou v jádru dobří
Jo? A co když je to naopak. Co když nám AI pomůže spustit neomezený zdroj energie. Objevit lék na rakovinu, nebo se postarat o to aby na silnicích neumírali lidi.
Kdyby to tak bylo, tak by práce lidí ztratila jakýkoliv smysl
Na uměle inteligenci akorát z bohatnou majitele a akcionáři firem kteří to budou prodávat. A lidem to přinese to že budou bez práce
@@milansviba4367 uz dnes drtiva vetsina lidi nepracuje a ti co jeste ano, v praci sledují youtube😅
@@dadazizala5271 Tak to moc neznáte realitu. Možná kancelářské práce ano. Ale moc lidí teda neznám a oboru kde by lidé nepracovali. Asi máte málo zkušenosti slečinko
@@milansviba4367 tak schvalne, kolik lidi z 10,5 milionu obcanu CR odvadi dan z prijmu? :-))
Na uměle inteligenci akorát z bohatnou majitele a akcionáři firem kteří to budou prodávat. A lidem to přinese to že budou bez práce
Umělá inteligence může pomoct ke zrychlení spousty procesů, může nahradit některé pracovní pozice, to však neznamená, že nás všechny připraví o práci. Vznikne tím i mnoho pozic nových, lidé budou pořád potřeba.
No nevím. Já třeba na zahrádce nemám pocit, že mi konev nebo zahradní hadice berou práci, když nemusím vodu roznášet v dlaních. A jejich výrobcům rád za to ulehčení přispěju, a když jsou hodně šikovní, tak třeba i zbohatnou. Zvýšením produktivity se ve výsledku zvýší i množství pracovních a vůbec životních příležitostí a možností. Zdánlivě modernizace přináší problém, jak do společnosti zařadit hloupé a nevzdělatelné lidi. Ale on ani ten středověk, starověk či pravěk nebyl úplně život v peřince - to těm méně schopným vyloženě akutně hrozilo, že nepřežijí, zatímco moderní doba jich nechá mnohem víc přežívat.
Tak se mají lidé stát akcionáři těch firem které na tom pracuji. Stát se akcionářem nějake firmy může člověk i s pouhou stokorunou. Prostě místo jedné krabičky cigaret si koupí akcie
@@habrrecords8698 Ne každá firma je akciová společnost, ne každá akciovka má své akcie volně obchodovatelné a ne každá akciovka vydává stokorunové akcie. Ale pokud si založíš svoji akciovku, tak si o tom samozřejmě na začátku můžeš rozhodnout sám, než tě ostatní akcionáři přehlasují.
@@breznik1197 tak ja jsem narážel na to, že v původním příspěvků bylo zmíněno že na tom zbohatnou jen majitele firem a akcionáři. Proto jsem řekl, že se mají lidé stát akcionáři aby zbohatli též. To je stejný jako s elektřinou. Kdyby si lidé koupili akcie ČEZu, tak by v době kdy šla elektřina nahoru, na tom nehorázně zbohatli. Akcie ČEZu mají dnes víc jak dvojnásobnou hodnotu než tomu bylo před tím zdražení v říjnu 2021. Málo která velká firma udělá za rok růst o 100 a více procent
Jen ať některým lidem ublíží.. snad otevřou oči a mozek 🧠 se jim vrátí..
Malichernost bát se umělý inteligence, otázka je, zda je schopná nést Vědomi, každý stroj lze vypnout 😉
Ale vemte si, kdyz treba vytvori propagandu a postne ji na internet, tak ta propaganda uz z internetu nezmizi. A vzdycky se najde 50 milionu hloupych Americanu, kteri te sracce uveri a zvoli diktatora co bombuje nevine lidi. To je jen jeden priklad, co muze hodne uskodit.
"Každý stroj lze vypnout" - to jsou poslední slova obsluhy jaderné elektrárny v Černobylu?
@@breznik1197 no proces výroby elektřiny bych za stroj neoznačil. Protože tlačítko AZ-5 nesloužilo k vypnutí elektrárny, ale zastavení procesu štěpení atomů v reaktoru, zjednodušeně k zastavení výroby elektřiny. Jinak elektrárna jako taková mohla dal fungovat i bez zapnuteho procesu štěpení.
@@habrrecords8698 Tak samozřejmě. proces není stroj. Stroj je to zařízení, ve kterém ten proces probíhá. Například reaktor. A to je také účelem každého stroje, aby jeho prostřednictvím probíhal nějaký proces. Bez toho jaksi stroj nemá smysl.
@@habrrecords8698 Zeptejte se Johna Connora, jestli jde vypnout Skynet. Ten blbec si myslel, že jo 😀 No ono je to stejně jedno, protože vzhledem k tomu, že jde o peníze, tak v tom pokračovat budou (dementi) a pak . . . Pak už to bude jedno milé děti. Žádní lidé nebudou.
Přijde mi hořce úsměvné to, jak splňuje typický stereotyp člověka v IT - neosobní, asociální přístup a chování - viz "Tak za 200 let, takže my se nemusíme bát". Super, tak ať se bojí jiní.
Spíš jde o to, že dnes nemá cenu vytahovat deštník kvůli tomu, že za dvěstě let možná zaprší.
Jemu nejde věřit ani slovo. Umělá inteligence je zlo.
Lidé jsou zlo uvedl bych to na pravou míru. A taky čistě filozoficky co je dobré nebo zlé není důležité. Přežití je to hlavní v celém Vesmíru.
@@vtapvtap3925 Umělá inteligence je nástroj satana na zotročení lidstva. Už Korintští o tom mluvili před 2 tisíci léty.
No hlavně jí vypneš lusknutím prstů. EMP impulsem.
Mám pocit, že vy se hodně bojíte i té úplně normální lidské inteligence. :-) Naštěstí vás ve své moci nemá a nikdy mít nebude, vzpíráte se statečně.
@@breznik1197 promiňte že reaguji ale já takových lidí potkávám čím dál víc. 😄 schýza z robotů a počítačů. Např. Internet je přimo závislý na satelitech. Je štěstí že vlastně funguje a naopak si myslím že stačí dobře mířená erupce a je po inteligenci. Pak si můžou korespondovat poštou mezi sebou vědátoři...o starých časech 😄
Co tam schováváte pod těmi vousy, snad ne umělou inteligenci, vy profesore umělé inteligence?
Tak co to děláte za rozhovor????jste normální vůbec tam vtom dvtv?????
Co se vám na něm nezdá?