AI texty čaká zmena. Claude ich začne tajne označovať

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Claude začne do svojich textov a obrázkov vkladať neviditeľné digitálne stopy. Anthropic tvrdí, že človek si ich pri čítaní nevšimne, no stroje by vďaka nim mohli odhaliť pôvod obsahu.

Zdroj: Freepik.com

Na prvý pohľad sa nezmení vôbec nič. Odpoveď od Claude bude vyzerať ako bežný text, no v budúcnosti môže niesť stopu, ktorú ľudské oko nedokáže rozpoznať.

Spoločnosť Anthropic oznámila, že plánuje označovať texty a obrázky vytvorené jej modelmi Claude pomocou strojovo čitateľných údajov. Cieľom je umožniť platformám a používateľom jednoduchšie zistiť, či obsah pochádza z umelej inteligencie.

Pri obrázkoch má Anthropic využívať štandard C2PA. Ten slúži na uchovávanie informácií o pôvode digitálneho obsahu a podporujú ho aj ďalší veľkí hráči technologického priemyslu.

Zaujímavejšia situácia nastáva pri texte. Anthropic hovorí o „nepostrehnuteľnom watermarku“, ktorý má byť vložený priamo do textového výstupu bez toho, aby menil jeho význam, kvalitu alebo čitateľnosť. Podľa firmy by takáto stopa mohla zostať zachovaná aj po skopírovaní textu a dokonca po niektorých úpravách.

O presnom fungovaní však zatiaľ veľa nevieme. Anthropic chce technické podrobnosti a možnosti detekcie zverejniť neskôr. Firma zároveň upozorňuje, že označovanie nebude neomylné. Napríklad metadáta C2PA môžu pri spracovaní alebo nahrávaní súborov zmiznúť.

Za rozhodnutím je aj Európska únia. Nové pravidlá transparentnosti podľa AI Actu tlačia poskytovateľov generatívnej umelej inteligencie k lepšiemu označovaniu syntetického obsahu.

Anthropic uvádza, že označovanie má fungovať na úrovni samotného modelu. Stopu by teda mohli niesť výstupy Claude bez ohľadu na to, či používateľ model využíva priamo alebo prostredníctvom podporovaných externých platforiem.

Internet tak môže postupne dostať novú vrstvu informácií, ktorú človek neuvidí. Pre stroje však môže prezradiť, kto text alebo obrázok v skutočnosti vytvoril.