AI pradávných epoch a ta současná

„Většina dnešních AI je vytvořena tak, aby předpovídala další slovo. Ale inteligence tak nefunguje.
V této epizodě pořadu The Neuron se moderátoři Corey Noles a Grant Harvey setkávají s Eve Bodnia, zakladatelkou a generální ředitelkou společnosti Logical Intelligence, aby prozkoumali energetické modely – zásadně odlišný způsob vytváření AI systémů.
Na rozdíl od velkých jazykových modelů se modely založené na energii nespoléhají na tokeny nebo předpovídání dalšího slova. Místo toho uvažují na základě energetické krajiny, což jim umožňuje vyhodnotit mnoho možných řešení najednou. Eve vysvětluje, proč je to důležité pro prostorové uvažování, plánování, robotiku a systémy kritické z hlediska bezpečnosti – a proč je lepší považovat jazyk za rozhraní, nikoli za jádro inteligence.
Zabýváme se:

• Jak fungují energetické modely (bez matematiky)
• Proč LLM halucinují – a kde jsou omezení důležitá
• Jak mohou EBM a LLM spolupracovat
• Co tento přístup znamená pro budoucnost systémů umělé inteligence“

„Geniální fyzik: Fyzika dokazuje, že umělá inteligence je ze své podstaty zlá!

Co se stane, když AI přestane být nástrojem… a stane se autonomním agentem?

V této epizodě fyzik a výzkumník v oblasti rizik umělé inteligence Anthony Aguirre vysvětluje, proč závod o AGI (umělou obecnou inteligenci) může být zásadně v rozporu s lidskými zájmy. Hovoříme o skutečném rozdílu mezi „užitečnou umělou inteligencí“ a „autonomií“, o tom, proč „sladění“ nemusí existovat tak, jak si lidé představují, a o tom, jak ekonomika nahrazování tlačí společnosti k systémům, které dokážou vše, co dokážou lidé.

Aguirre se také zabývá hlubším rámcem: proč „většina věcí, které pokročilá AI dokáže, je špatná“, jak to souvisí s teorií řízení a termodynamikou (entropií) a proč se problém řízení stává obtížnějším, jak systémy rostou, zrychlují se a stávají se schopnějšími než jejich lidští kontroléři.„