Google внедрява технология за маркиране и разпознаване на текстове, създадени от генеративни AI модели. Инструментът, наречен SynthID Text, няма да повлияе на качеството и скоростта на генериране на съдържание и ще бъде достъпен напълно безплатно за разработчици и компании.
SynthID Text работи по следния начин. Когато генерира текст, моделът прогнозира кой е следващият “токен” (символ или дума) въз основа на вероятността за появяване на всеки токен и добавя допълнителна информация към разпределението на тези вероятности чрез модулиране на коригираните знаци. В крайна сметка те образуват воден знак, който помага да се определи дали текстът е създаден от AI.
Google твърди, че
SynthID Text, който беше интегриран в AI модела Gemini през пролетта, не влияе на качеството, точността или скоростта на генериране на текст. Въпреки това текстът, който е бил съкратен, перифразиран или променен, може да бъде обработен малко по-лошо, отбелязва
TechCrunch.
Що се отнася до фактите, „отговорите на въпроси, които са твърде конкретни и недвусмислени, предоставят по-малко възможности за коригиране на разпределението на токените, без да се компрометира фактическата точност”, поясняват разработчиците.
Google не е единствената компания, която работи върху технологията за воден знак на текст, генериран от AI. Например OpenAI също разработваше методи за прилагане на водни знаци, но забави пускането им поради технически пречки и търговски съображения.