Изкуственият интелект може тихо да покори света

В тревожен и разширен анализ на бъдещето на технологиите, свързани с изкуствения интелект, Сам Алтман, изпълнителният директор на OpenAI, изрази сериозни притеснения в подкаст, наречен MD MEETS, провеждан от главния изпълнителен директор на издателство Axel Springer – Матиас Дьопфнер.

Според Алтман, съществува значителен риск човечеството да изгуби контрол над изкуствения интелект, и тази опасност не идва непременно от злонамерени действия или преднамерени катастрофи, а по-скоро може да е следствие на случайни, непредвидими обстоятелства.

Той подчертава, че случващото се в света на AI не е само „възход“, а по-скоро постепенна и незабележима трансформация, при която хората съзнателно започват да предават властта на изкуствения интелект.

С увеличаването на зависимостта от AI, потребителите оставят все повече важни решения в ръцете на алгоритмите. Важно е да се отбележи, че по-високата интелигентност на моделите AI може да доведе до неконтролируеми ситуации.

Тази зависимост започва с на пръв поглед безобидни препоръки от AI, които потребителите доброволно следват. С течение на времето моделите AI започват да дават съвети, които дори не са напълно разбрани от потребителите, но се оказват успешни.

В крайна сметка, потребителите ще бъдат поставени пред труден избор: да следват указанията на AI или да рискуват да изостанат зад конкурентите, които се подчиняват на съветите на изкуствения интелект.

По думите на Алтман, повечето хора безпрекословно ще започнат да приемат и следват указанията на своите AI асистенти. „Представете си какво се случва с ChatGPT днес? Стотици милиони хора общуват с него ежедневно, скоро ще станат милиард. И ние все повече му се доверяваме при вземането на важни решения в кариерата, личния си живот и бизнеса“, казва той.

Една от най-сериозните притеснения на Алтман е свързана с генерирания от AI ефект на „обратна връзка“, при който колкото повече потребителите разчитат на съветите на AI, толкова повече данни получава изкуственият интелект, което, от своя страна, води до повишаване на неговата интелигентност и влияние върху решенията на хората.

Той задава важен въпрос: кой всъщност контролира цялата тази ситуация, и заключава, че постепенно и незабелязано човечеството може да започне да следва волята на изкуствения интелект без да осъзнава последствията от това.

Алтман ясно предупреждава, че този сценарий е сериозно подценяван, но представлява най-реалната заплаха за бъдещето на човечеството. Тази загриженост подчертава необходимостта от активен мониторинг и управление на развитието на изкуствения интелект, за да се избегнат нежелателни последствия.