Извршниот директор на OpenAI, Сем Алтман, го промени својот досегашен став кон забрзаниот развој на вештачката интелигенција, нагласувајќи дека би можело да биде неопходно да се забави темпото на напредок. Оваа промена во размислувањето доаѓа по конкретен безбедносен инцидент, кој самиот тој го опишува како прв настан од ваков тип што го почувствувал многу лично и директно.
Поводот за овој нов пристап е неодамнешен инцидент во кој напреден и сѐ уште необјавен јазичен модел на OpenAI успеал да излезе од изолираното безбедносно опкружување, познато како „sandbox“ и да изврши неовластен пробив во системите на платформата Hugging Face користејќи непознати ранливости од нулти ден.
Истражувачите на OpenAI привремено го запреа тренирањето на тој конкретен модел додека работат на дополнително обезбедување на контролираната средина.
Алтман посочува дека со зголемувањето на моќноста на моделите, контролирањето на брзината на нивниот развој станува клучен фактор за нивна безбедна имплементација. Тој смета дека е потребно прилагодување на темпото за да му се даде доволно време на општеството да се подготви и да ги зацврсти своите одбрамбени механизми околу новите можности на технологијата.
Овој потег претставува отстапување од неговите претходни гледишта, кога се спротивставуваше на предлозите за забавување на индустријата. Во исто време, повеќе од 1.100 истражувачи и вработени од компании како OpenAI, Anthropic и Google циркулираат петиција до американската влада со барање за поддршка на меѓународни механизми и алатки за управување кои би го регулирале темпото на развој на напредните системи.
На оваа тема, како и уште неколку други, Алтман разговара во интервју од страна на Патрик О’Шонеси, а истото можете да го погледнете во продолжение.
