Ծագման ազդանշանները (բովանդակության հավաստագրեր, SynthID) OpenAI-ի ստեղծած բովանդակության մեջ

OpenAI-ն օգտագործում է ծագման ազդանշաններ, օրինակ՝ SynthID ջրանիշներ և բովանդակության հավաստագրեր (C2PA), որպեսզի մարդիկ կարողանան հասկանալ՝ արդյոք բովանդակությունը ստեղծվել է OpenAI-ի գործիքներով։ Ծագման ազդանշանները կարող են օգտակար լինել աղբյուրը որոշելու համար, սակայն դրանք չեն երաշխավորում, որ բովանդակությունը ճշգրիտ է, չխմբագրված, օրինական սեփականություն է կամ ներկայացված է ճիշտ համատեքստում։

Ի՞նչ է C2PA ստանդարտը և ի՞նչ է այն հնարավորություն տալիս անել։

C2PA-ն բաց տեխնիկական ստանդարտ է, որը հրատարակիչներին, ընկերություններին և այլոց թույլ է տալիս մեդիաֆայլերում ներդնել մետատվյալներ՝ դրանց ծագումն ու հարակից տեղեկությունները ստուգելու համար։ C2PA-ն նախատեսված է ոչ միայն արհեստական բանականությամբ ստեղծված բովանդակության համար։ Նույն ստանդարտը կիրառում են նաև տեսախցիկ արտադրողները, լրատվական կազմակերպությունները և այլք՝ մեդիաբովանդակության աղբյուրը, պատմությունը կամ ծագումը հավաստելու համար։

C2PA մետատվյալները կարող են ներառել տեղեկություններ ֆայլը ստեղծած գործիքի կամ ծառայության, դրա ստեղծման ժամանակի և ծագման կամ պատմության այլ մանրամասների մասին։

Իմացեք ավելին C2PA-ի մասին։

Ի՞նչ է SynthID-ն և ի՞նչ է այն հնարավորություն տալիս անել։

SynthID-ն անտեսանելի ջրանիշի տեխնոլոգիա է, որն ազդանշանն անմիջապես ներդնում է ստեղծված մեդիաբովանդակության մեջ։ Ի տարբերություն մետատվյալների՝ ազդանշանը հենց բովանդակության մաս է և կարող է պահպանվել որոշ խմբագրումներից կամ փոխակերպումներից հետո։

SynthID-ն C2PA մետատվյալների հետ մեկտեղ ապահովում է ծագման լրացուցիչ ազդանշան։ Օրինակ՝ եթե մետատվյալները հեռացվեն ֆայլից, ներդրված ջրանիշը կարող է շարունակել ազդանշել, որ բովանդակությունը ստեղծվել է OpenAI-ի աջակցվող գործիքներով։

OpenAI-ի ստեղծած բովանդակության ո՞ր տեսակներն են ներառում ծագման ազդանշաններ։

OpenAI-ն բովանդակության տարբեր տեսակների համար օգտագործում է ծագման տարբեր ազդանշաններ։

Ընդգրկումը կարող է տարբեր լինել՝ կախված պրոդուկտից, մոդելից, արտահանման եղանակից, ֆայլի տեսակից և բովանդակության ստեղծման ժամանակից։

Ինչո՞ւ են բովանդակության որոշ տեսակների համար օգտագործվում ծագման տարբեր ազդանշաններ։

Տարբեր մեդիաֆորմատները ծագման մասին տեղեկությունները պահպանում են տարբեր ձևերով։

Մետատվյալները, օրինակ՝ C2PA բովանդակության հավաստագրերը, կարող են ավելի մանրամասն տեղեկություններ պարունակել, սակայն հարթակները, խմբագրման գործիքները կամ ֆայլերի փոխակերպումը երբեմն կարող են հեռացնել դրանք։

Ջրանիշները, օրինակ՝ SynthID-ն, ներդրվում են հենց ստեղծված մեդիաբովանդակության մեջ և կարող են ավելի լավ պահպանվել որոշ փոխակերպումների դեպքում։ Սակայն ջրանիշները սովորաբար ավելի քիչ համատեքստ են տրամադրում, քան մետատվյալները։

Երբ դա տեխնիկապես իրագործելի է, երկու մոտեցումների համատեղ և նպատակահարմար կիրառումն օգնում է ապահովել ծագման ավելի հուսալի ազդանշաններ։

Ինչպե՞ս կարող եմ տեսանելի ջրանիշ ավելացնել OpenAI-ի գործիքներով ստեղծված պատկերին։

Կարող եք ChatGPT-ի, Codex-ի և OpenAI API-ի միջոցով ստեղծված պատկերների վրա տեսանելի նշում ավելացնելու հարցում տալ՝ մոդելին հուշելով ներառել այն։ Օրինակ՝ պատկեր ստեղծելիս կարող եք ասել. “Include a visible OpenAI watermark in the image.”

Տեսանելի ջրանիշները տարբերվում են ներդրված ծագման ազդանշաններից, ինչպիսիք են C2PA մետատվյալներն ու SynthID ջրանիշները։ Դրանք կարող են օգնել դիտողներին հասկանալ, որ պատկերը ստեղծվել է OpenAI-ի գործիքներով, սակայն նույնը չեն, ինչ մեքենայաընթեռնելի ծագման ազդանշանները։

Ինչպե՞ս կարող եմ ստուգել՝ արդյոք բովանդակությունը ստեղծվել է OpenAI-ի գործիքներով։

Կարող եք այցելել openai.com/verify՝ ստուգելու, թե արդյոք աջակցվող պատկերը կամ աուդիոֆայլը պարունակում է OpenAI-ի գործիքներով ստեղծված կամ արտահանված բովանդակության հետ կապված ծագման ազդանշաններ։

Աջակցվող ֆայլը վերբեռնելուց հետո գործիքը կփնտրի OpenAI-ի աջակցվող ծագման ազդանշաններ, օրինակ՝ SynthID ջրանիշ կամ OpenAI-ի հետ կապված վստահելի C2PA մանիֆեստ։

Եթե գործիքը գտնի OpenAI-ի աջակցվող ծագման ազդանշան, դա կնշանակի, որ բովանդակությունը ստեղծվել կամ արտահանվել է OpenAI-ի գործիքներով։

Ի՞նչ է նշանակում ստուգման արդյունքը։

Եթե ազդանշան է հայտնաբերվում, գործիքը կարող է օգնել հաստատել, որ վերբեռնված բովանդակությունը պարունակում է OpenAI-ի հետ կապված աջակցվող ծագման ազդանշան։

Գործիքը չի հաստատում, որ բովանդակությունը ճշգրիտ է, չխմբագրված, օրինական սեփականություն է կամ ներկայացված է ճիշտ համատեքստում։ Այն նաև չի պարզում, թե ով է ստեղծել բովանդակությունը կամ ինչու է այն ստեղծվել։

Ի՞նչ անել, եթե ազդանշան չի գտնվել։

Եթե ազդանշան չի հայտնաբերվում, դա նշանակում է, որ գործիքը վերբեռնված ֆայլում չի գտել OpenAI-ի տրամադրած ծագման ազդանշաններ։

Բովանդակությունը, միևնույն է, կարող էր ստեղծված կամ արտահանված լինել OpenAI-ի միջոցով, եթե՝

• Բովանդակությունը ստեղծվել է նախքան ծագման ազդանշանների հասանելի դառնալը։

• Բովանդակությունը ստացվել է չաջակցվող պրոդուկտից, մոդելից, արտահանման եղանակից կամ ֆայլի տեսակից։

• Մետատվյալները հեռացվել են վերբեռնման, ներբեռնման, խմբագրման, փոխակերպման կամ տարածման ընթացքում։

• Ջրանիշը վնասվել է սեղմման, կտրելու, աղմուկի, խմբագրումների, ձևաչափի փոխակերպման կամ այլ փոփոխությունների հետևանքով։

• Աուդիոհատվածը չափազանց կարճ է կամ զգալիորեն փոփոխվել է։

Նախատեսո՞ւմ եք աջակցել տեքստային արդյունքներին։

Եվրոպական հանձնաժողովի՝ արհեստական բանականությամբ ստեղծված բովանդակության թափանցիկության վարքականոնի շրջանակում ստանձնած մեր պարտավորություններին համապատասխան՝ մեր նպատակն է ծագման ազդանշանները տարածել բովանդակության բոլոր տեսակների, այդ թվում՝ տեքստի վրա, որպեսզի ստանդարտների ու գործիքների զարգացմանը զուգընթաց հաճախորդներն ու մշակողները հստակ միջոցներ ունենան թափանցիկության իրենց պարտավորությունները կատարելու համար։ 

Կարո՞ղ է OpenAI Verify-ը հայտնաբերել այլ ԱԲ գործիքներով ստեղծված բովանդակություն։

OpenAI Verify-ը նախատեսված է OpenAI-ի գործիքներով ստեղծված կամ արտահանված բովանդակության հետ կապված աջակցվող ծագման ազդանշանները հայտնաբերելու համար։

Այն նախատեսված չէ այլ ԱԲ ծառայություններով ստեղծված բովանդակությունը հայտնաբերելու համար և կարող է չհայտնաբերել նաև OpenAI-ի ստեղծած բովանդակությունը, եթե համապատասխան ազդանշանը բացակայում է, չի աջակցվում կամ վնասված է։

Կարո՞ղ են մշակողները API-ի միջոցով ստուգել բովանդակությունը։

Մշակողներն ու կազմակերպությունները կարող են OpenAI-ի ստուգման API-ի միջոցով աջակցվող բովանդակությունը ստուգել OpenAI-ի ծագման ազդանշանների առկայության համար և ստուգումը ներառել իրենց հավելվածներում կամ աշխատանքային գործընթացներում։ API-ի հասանելիության մասին տեղեկությունների համար այցելեք openai.com/verify։ Օգտագործման ավելի բարձր սահմանաչափերի կարիք ունեցող կազմակերպությունները կարող են դիմել դրանք բարձրացնելու համար։ Լրացուցիչ տեղեկությունների համար այցելեք openai.com/verify։