Нова функция на национално приложение за борба с измамите в Китай използва изкуствен интелект за откриване на генерирани от AI следи в изображения, видеоклипове, аудио и текст, създавайки значителен шум. Съобщено от Китайската централна телевизия, това развитие има за цел да идентифицира фалшиво съдържание и да предотврати измами, като предлага облекчение на собствениците на онлайн магазини, които се борят с измамни искания за възстановяване.
Напоследък онлайн търговците на дребно са изправени пред предизвикателства от купувачи, използващи изображения, генерирани от AI, за да поискат възстановяване на средства, без да връщат покупките си. Докладът подчертава често срещана практика, при която купувачите снимат дефектни стоки, за да поискат възстановяване или връщане. Цифрово манипулираните изображения обаче позволяват на безскрупулни купувачи да запазят продуктите си, оставяйки търговците разочаровани и предизвиквайки обществен дебат.
Един случай включва фермер на смокинови дървета с фамилно име Джан от Синджи, провинция Хъбей. Джан отвори магазин в платформа за стрийминг на живо, за да продава фиданки, но скоро се сблъска с „само искане за възстановяване“. Купувач твърди, че фиданките са пристигнали изсъхнали, предоставяйки снимка на пожълтяло, безжизнено растение като доказателство. Джан обаче беше уверен в качеството на пратката си, като отбеляза, че е изпратил особено здрава фиданка с влажна почва, което прави малко вероятно растението да изсъхне само за два дни.
Въз основа на богатия си опит в самоусъвършенстването Джан забеляза несъответствия в снимката. Той отбеляза, че наистина дехидратираните растения биха имали набръчкани, увиснали листа, за разлика от представения променен образ. Въпреки защитата на Джан, платформата застава на страната на купувача, одобрявайки възстановяването на сумата въз основа на манипулираната снимка. Обезсърчен, Джан решава да затвори магазина си, изоставяйки платформата.
Изпитанието на Джан не е изолирано. Много продавачи са споделили подобен опит, срещайки генерирани от AI фалшиви изображения в следпродажбени спорове, според доклада. Някои се оплакаха от идентични счупвания в множество закачалки, което ясно показва цифрова манипулация.
В днешния свят, където изображенията, генерирани от AI, са все по-често срещани, разграничаването между автентично и фалшиво съдържание е нарастващо предизвикателство. За да се справи с това, националното приложение за борба с измамите, насърчавано от Министерството на обществената сигурност и няколко интернет оператора, подобрява изследванията и внедрява инструменти за откриване на AI.
Lan Jun, специалист по визуален алгоритъм за съдържание за сигурност в онлайн платформа, обясни на CCTV, че техният метод за откриване включва широко изучаване на моделите на съдържание, генерирано от AI. Този процес използва големи модели за проверка на съдържанието за физически недостатъци, като изкривен текст или логически несъответствия.
„Ние се стремим да сведем до минимум фалшивите идентификации“, каза Лан, съветвайки потребителите и бизнеса да използват външни инструменти за удостоверяване на AI, за да подкрепят своите преценки.
Ключовата стратегия за борба с фалшифицирането на AI е използването на самия AI. Според доклада, използването на AI за създаване на измамни изображения за възстановяване на средства представлява гражданска измама. Ако не бъде отметнато, това може да наруши екосистемата на електронната търговия.
Инструментите за автентификация с изкуствен интелект могат значително да намалят разходите за идентифициране на измами за бизнеса, действайки едновременно като възпиращ фактор за нарушителите и стабилна база от доказателства за преговори с платформи. Xie Yongjiang, ръководител на Изследователския център за управление на интернет и право в Пекинския университет за пощи и телекомуникации, подчерта отговорността на платформите да приемат тези технологии, за да поддържат целостта на транзакциите и да защитават правата както на бизнеса, така и на потребителите.
Нашия източник е Българо-Китайска Търговско-промишлена палaта