Изследователят Тодор Марков е специалист по изкуствен интелект. Той твърде, че шефът на OpenAI е с "нисък морал" и може би лъже за мисията на компанията

Изследователят Тодор Марков е един от ветераните в AI индустрията. Българинът е разработвал изкуствен интелект за OpenAI от 2018 до 2024 година. Той напуска гигантът и се присъединява към основана от други бивши служители на OpenAI компания Anthropic. Причината? Тодор Марков уличава Сам Алтман в лъжа и "нисък морал".

Марков, заедно с още 11 бивши служители на OpenAI, публикуват правен документ, уличаващ Алтман в лъжа, съобщава Futurism.

Документът ще е част от делото на Илон Мъск срещу преобразуването на OpenAI в търговска компания с цел печалба. Засега OpenAI е оформена като организация с идеална цел, но Сам Алтман иска да промени това.

Каква е лъжата на Алтман?

Шефът на OpenAI е излъгал относно т.нар. "клаузи за неочерняне" (non-disparagement agreements), които служителите били принуждавани да подписват още в началото на работата си.

Миналата година Марков открива, че съществува такава клауза, която на практика принуждава напускащите служители никога да не критикуват OpenAI, ако искат да запазят дяловете си в компанията на стойност милиарди долари.

По време на обща среща на целия екип относно спорната клауза, Алтман заявил, че не знаел за съществуването ѝ. Но изтекли документи показват, че самият той я е одобрил.

Както обяснява Марков в декларацията си, този инцидент го убедил, че Алтман е човек с нисък морал, който умишлено е излъгал служителите относно ограничителните клаузи.

Фасаден устав

Според Марков това означава, че Алтман много вероятно лъже и по други важни въпроси, включително ангажимента на OpenAI към създаването на безопасен изкуствен общ интелект (AGI).

В устава си OpenAI обещава, че ще използва влиянието си върху развитието на AGI, за да гарантира, че то ще служи в полза на цялото човечество, и че ще избягва приложения, които биха навредили на хората или биха концентрирали твърде много власт.

Според Марков обаче това обещание се оказало празно:

"Осъзнах, че Уставът е бил използван като димна завеса - нещо, с което да се привличат и задържат идеалистично настроени таланти, без реално да ограничава растежа на OpenAI или стремежа ѝ към AGI."

От OpenAI обявиха, че биха се отказали от подробните прегледи на сигурността на моделите си, ако конкуренцията направи същото.

Подобно на Илон Мъск, Марков вярва, че опитите на Алтман да преобразува OpenAI в търговска компания с цел печалба показват, че уставът и мисията са били използвани като фасада, за да се манипулират служителите и общественото мнение.

За разлика от Мъск обаче, който е милиардер и съосновател на OpenAI, Марков не иска да купува нищо - той просто иска гласът му да бъде чут.