Bomo ljudje sužnji? Izračuni Inštituta Max Planck pokazali, da ljudje ne bomo dohajali superinteligentnih strojev

Raziskovalci, ki se ukvarjajo z umetno inteligenco na nemškem inštitutu Max Planck so prišli do sklepa, da ljudje nikoli ne bomo mogli doseči ravni superinteligentne umetne inteligence.

Sklep se zdi strašljiv, toda poznavanje dejstev bo pomagalo znanstvenikom, ki delajo na teh projektih.

Že danes obstajajo »samoučeči« primeri umetne inteligence, ki sami sebe naučijo veliko zadev, ki jih programerji »ne zmorejo popolnoma razumeti.«

Calculations Show Humans Can't Contain Superintelligent Machines https://t.co/mNCdVGj6mF #fintech

— Whymandesign (@whymandesign) January 30, 2021

Vse to so sklepi nove študije Inštituta za človeški razvoj Max Planck.

Umetna inteligenca na ravni »superinteligence« naj bi bila po teh ocenah daleč pred človeško.

To seveda ne vzbuja optimizma.

Da bi se moralo človeštvo podrediti novim gospodarjem z umetno inteligenco prav tako ne.

To vprašanje so si zastavili tudi v berlinskem inštitutu.

»Postavlja se torej vprašanje, ali lahko to v določeni točki postane nenadzorovano in nevarno za človeštvo«, so zapisali.

Umetna inteligenca že danes išče zdravila, ki bi lahko pomagala pri zdravljenju nekaterih boleznih in podobno.

I report on a recent study that argues - bringing the superintelligent computer under control will be, in principle, impossible due to the fundamental limits inherent to computing, such as halting problems. https://t.co/ME4GqZkzRB

— Kashyap Raibagi (@raibagikashyap) January 24, 2021

Da bi se lahko umetna inteligenca »učila sama« in presegla človeka je prvi izpostavil pisatelj znanstvenofantastičnih romanov Isaac Asimov.

Njegovi »trije zakoni robotike« kot železno pravilo za vse robote navajajo, da roboti ne smejo nikoli škodovati ljudem.

Toda težava bo, kot ugotavljajo avtorji študije, da ljudje ne bomo imeli sredstev, da bi dosegli spoštovanje teh zapovedi.

Humans keep on creating smarter machines & there is an increasing reliance on machines for many tasks. Many say human intervention is good and needed from time to time, but new study says humans will struggle controlling super intelligent machines. https://t.co/boX4yYXhIf

— Siphumelele Zondi (@SZondi) January 29, 2021

»Sklepamo, da bo zadrževanje umetne inteligence nemogoče, zaradi omejitev samega računanja... Superinteligentna umetna inteligenca bo obsegala toliko znanja, da bo celo načrtovanje dovolj velikega kontejnerja za to znanje presegalo človeško doumevanje. Verjetno sploh ne bomo doumeli, kje bo umetna inteligenca shranila te podatke, kot na najboljši medij. In to verjetno ne bo videti tako kot so s strani ljudi narejeni, nerodni programski jeziki,« ocenjujejo avtorji.

Sliši se strašljivo, toda zavedanje omejitev lastnega znanja je pomembno pri reševanju tega problema.

These engineers want to create an ‘army’ of robot caregivers to serve as medical front-line workers  pic.twitter.com/f5sg4cJpEq

— NowThis (@nowthisnews) January 31, 2021

Kaj vse roboti zmorajo že danes, pa kažejo spodnji posnetki iz tovarne Boston Dynamics.