☢️ Дилемата на Опенхаймер, ама с AI

Сигурно сте гледали филма Опенхаймер, който се изследва дилемата на учения, който създава ядрената бомба - нещо, което може да унищожи света. И със сигурност ще отнеме животи.

Ако трябва да прочетете едно нещо тази седмица, това е интервюто на Бен Томсън с Грегори Алън (старши съветник в the Wadhwani AI Center at the Center for Strategic and International Studies - Washington D.C. непартиен тинк-танк, основан 1962). (Ех, винаги съм искал да основа тинк-танк!) И понеже сайта изисква абонамент съм го сложил като PDF тук 👇🏻

Много изследвания са направени, че с атомните бомби през WW2 на теория е имало много по-малко жертви, отколкото ако се продължи без тях, но тук ще навлезем в разпалени морални спорове.

Миналите 2 седмици, 2 от водещите компании по изкуствен интелект са в подобна дилема : OpenAI и Anthropic. Дали да дадат моделите си на правителството, което да ги ползва за както сметне за добре, включително за масово следене на граждани и автономни дронове убийци или кибер атаки от нечуван капацитет към други правителства/компании.

Представете си следното: през 1940-те проекта Mанхатън да е на частна компания. С приравнения му към инфлацията бюджет от близо $30 млрд и 120 000 служители, днес това не е нереалистично. Все пак Twitter беше купен за ~$40 млрд. Просто тогава не е имало толкова големи (международни) компании. И е нямало как чисто финансово "частниците" да произведат ядрена бомба.

Та, ако частната компания през 40-те произведе технологията "ядрена бомба", едва ли правителството ще каже - ами добре, айде, продайте 2-3 бомби на нас да си покриете разходите, другите какво ще ги правите не ни интересува. Никакъв шанс.

Ако AI е технология която, подстрекана правилно, може да затрие половината свят, това трябва да е под контрол на правителствата, защото малко или много подобни технологии са функция на хората. Абстрахирайте се кой е на власт в момента, макар да е трудно. В идеален свят демокрацията работи и хората избират правителството, което е функция на хората.

Трябва ли един CEO (неизбран от народа, отговарящ главно пред акционерите) да решава каква сила има дадена армия? Трябва ли той да решава колко точни са дроновете и в кои страни/квартали да ходят, след като не води той битка?

При наличие на държави, които размахват библията като нотариален акт, а други се водят от религиозен лидер, знаем че пацифизма няма да работи.

Много морални дилеми станаха, и въпреки келявите правителства, реално се намираме в подобна ситуация: кой най-добре да кара колата, която лети към пропаст.

🤡 Меме на седмицата

📠 Интернет новина на седмицата

• Някакси към темата тази седмица, Антропик се оплакват, че китайски ботове масово крадат тяхна технология. После що са толкова напред без милиарди CapEx.
• Пак към горното - US правителството със санкции към компания, продавала софтуер за кибер атаки за който там плати повече.
• Доклада за бъдещето на киберсигурността от Google

🍸 Забава

• Супер филм по ARTE за Теодоси Теодосиев - учител по физика от Казанлък и неговите научни лагери по Физика за подготовка за ученици Нобелови лауреати.
• Време за наука: шанса дядо ви да е бил неандерталец, а баба ви човечка е много по-голям отколкото обратното. Накратко неандерталците от мъжки пол са правили много по-често секс с жени (homo sapiens) от жените неандерталки с мъже (homo sapiens).

Sex biases in admixture and other demographic processes are recurrent features throughout human evolution. For admixture between Neanderthals and anatomically modern humans (AMHs), sex bias has been proposed as an explanation for the relative lack of Neanderthal ancestry in modern human X chromosomes compared with that in modern human autosomes. By observing a 62% relative excess of AMH ancestry in Neanderthal X chromosomes, we characterized the interbreeding between the two groups as predominantly male Neanderthals with female AMHs. Analytic and numerical modeling presents mate preference as a more parsimonious cause of the sex bias than purely demographic processes with differential patterns of male and female migration.

• Как да направиш и изстреляш военен дрон струва 60-70 пъти по-малко отколкото да го свалиш.

💸 Какво си купих и е ОК

(Ревюта на неща, които съм ползвал + оферти)

• Тази седмица почивка.

До плънка!
Еленко