Родителите на еден Канаѓанец неодамна добиле вознемирувачки повик. Им се јавил адвокат и им кажал дека нивниот син усмртил американски дипломат во сообраќајна несреќа – завршил во затвор и му требале пари за правни трошоци. После тоа, адвокатот му го предал телефонот на очајниот син кој му објаснил во каква ситуација се наоѓа и како и сите родители решиле да му помогнат и му испратиле околу 15.000 долари во биткоини.
Добрата вест за родителите е што нивниот син не предизвикал сообраќајна несреќа со смртни последици и не завршил во затвор, но лошата вест е што останале без пари. Имено, тие паднаа на нов тип на измама овозможена од вештачката интелигенција, односно алатки засновани на вештачка интелигенција кои можат да клонираат гласови. Родителите, затоа, воопшто не разговарале со својот син, но вештачката интелигенција успеала да создаде глас кој е речиси идентичен со гласот на нивниот син.
Парите ги нема. Без осигурување. Нема враќање. Исчезна, коментира за медиумите Бенџамин Перкин, синот на измамениот пар.
Со постоечките алатки, само околу 30 секунди снимање на звук е доволно за вештачката интелигенција успешно да го клонира гласот на една личност. Со оглед на тоа што многу луѓе на Facebook, Instagram, TikTok и други мрежи често објавуваат видеа, има многу видеа јавно достапни на интернет од кои звукот или гласот може да се користат за ваков тип на измама.
Додека повеќето достапни алатки бараат околу 30 секунди гласовно снимање за такво гласовно клонирање, на почетокот на годината Мајкрософт претстави своја алатка на која и требаат само три секунди аудио примерок за клонирање на глас врз основа на неа. Американската компанија не ја стави својата алатка достапна на јавноста токму поради потенцијалните ризици од нејзината злоупотреба, како што видовме на примерот на родителите на Бенџамин Перкин. ElevenLabs, компанија која разви алатка за гласовно клонирање, предупреди на таква злоупотреба на крајот на јануари, а набргу потоа објавија дека нивната алатка VoiceLab повеќе нема да биде достапна во бесплатна верзија со цел да се намали зголемениот број на измами.