Deepfake — როგორ გვატყუებს ხელოვნური ინტელექტი და როგორ ამოვიცნოთ ყალბი რეალობა

წარმოიდგინეთ, რომ სოციალურ ქსელში ცნობილი ადამიანის ვიდეოს უყურებთ. ის კამერის წინ დგას, ნაცნობი ხმით საუბრობს და ისეთ განცხადებას აკეთებს, რომელსაც შეუძლია საზოგადოებაში დიდი აჟიოტაჟი გამოიწვიოს. ვიდეო რეალურად გამოიყურება, ხმა ბუნებრივია, სახის გამომეტყველებაც დამაჯერებელია. თუმცა არსებობს ერთი პრობლემა: ამ ადამიანს მსგავსი რამ არასოდეს უთქვამს. ვიდეო ხელოვნური ინტელექტის დახმარებით არის შექმნილი ან შეცვლილი.

ეს უკვე მხოლოდ სამეცნიერო ფანტასტიკის ნაწილი აღარ არის. ხელოვნური ინტელექტის განვითარებამ შესაძლებელი გახადა ისეთი გამოსახულებების, ვიდეოებისა და ხმების შექმნა, რომლებიც ზოგჯერ ნამდვილ ჩანაწერებს ძალიან ჰგავს. ამ ტექნოლოგიას Deepfake ეწოდება და მას შეუძლია სრულიად ახალი შესაძლებლობები შექმნას კინოსა და განათლებისთვის, მაგრამ ამავე დროს წარმოშვას სერიოზული პრობლემები პირადი უსაფრთხოების, თაღლითობისა და ინფორმაციის სანდოობის თვალსაზრისით.

რა არის Deepfake, როგორ მუშაობს ეს ტექნოლოგია, რისთვის გამოიყენება და როგორ უნდა გავარჩიოთ რეალური ჩანაწერი ხელოვნურად შექმნილი მასალისგან?

რა არის Deepfake და საიდან გაჩნდა ეს ტექნოლოგია?

ტერმინი Deepfake ორი ინგლისური სიტყვისგან შედგება: deep learning — ღრმა სწავლება, რომელიც ხელოვნური ინტელექტის ერთ-ერთი მიმართულებაა, და fake — ყალბი. ეს სახელწოდება აღნიშნავს ციფრულ მასალას, რომელშიც ადამიანის სახე, ხმა ან სხვა მახასიათებელი ხელოვნური ინტელექტის გამოყენებით არის შექმნილი ან შეცვლილი ისე, რომ შედეგი ნამდვილ ჩანაწერს დაემსგავსოს.

Deepfake-ის გავრცელება განსაკუთრებით შესამჩნევი 2017 წლიდან გახდა, როდესაც ინტერნეტში გამოჩნდა ამ სახელით ცნობილი სახის ჩანაცვლების ვიდეოები. თუმცა ამ ტექნოლოგიის საფუძვლად არსებული იდეები ბევრად უფრო ადრე ვითარდებოდა. კომპიუტერული გრაფიკა, ციფრული გამოსახულების დამუშავება და მანქანური სწავლება წლების განმავლობაში იხვეწებოდა, სანამ მათი კომბინაცია რეალისტური ყალბი ვიდეოებისა და აუდიოს შესაქმნელად ხელმისაწვდომი გახდებოდა.

ადრე ადამიანის სახის რეალისტურად შეცვლა დიდ დროს, სპეციალურ ცოდნასა და ძვირადღირებულ პროგრამებს მოითხოვდა. დღეს კი ბევრი ინსტრუმენტი გაცილებით მარტივად გამოსაყენებელია. ზოგიერთი მათგანი ფოტოს ან ხმის მოკლე ნიმუშსაც იყენებს იმისათვის, რომ ახალი გამოსახულება ან აუდიო შექმნას.

მნიშვნელოვანია გვესმოდეს, რომ ყველა ხელოვნური ინტელექტით შექმნილი გამოსახულება Deepfake არ არის. მაგალითად, სრულიად გამოგონილი პერსონაჟის შექმნა თავისთავად არ ნიშნავს რეალური ადამიანის გაყალბებას. Deepfake-ის მთავარი თავისებურება ისაა, რომ მას შეუძლია რეალური ადამიანის ან მოვლენის ისეთი წარმოდგენა, თითქოს მან რაღაც მართლაც თქვა ან გააკეთა, მაშინ როდესაც ეს სინამდვილეში არ მომხდარა.

როგორ მუშაობს Deepfake?

Deepfake-ის შესაქმნელად გამოიყენება ხელოვნური ინტელექტის მოდელები, რომლებიც დიდი რაოდენობით მონაცემებიდან კანონზომიერებების ამოცნობას სწავლობენ. ეს მონაცემები შეიძლება მოიცავდეს სახის გამოსახულებებს, ვიდეოკადრებს, ხმის ჩანაწერებსა და მეტყველების ნიმუშებს. მათი დამუშავების შედეგად სისტემა სწავლობს, როგორ გამოიყურება ადამიანის სახე სხვადასხვა კუთხიდან, როგორ იცვლება გამომეტყველება საუბრისას ან რა თავისებურებები ახასიათებს კონკრეტულ ხმას.

სახის ჩანაცვლებისას სისტემა შეიძლება დაეუფლოს ორი ადამიანის სახის მახასიათებლების ერთმანეთთან შესაბამისობაში მოყვანას. ამის შემდეგ შესაძლებელია ერთი ადამიანის სახის სხვა ადამიანის ვიდეოში ჩასმა ისე, რომ განათება, თავის მოძრაობა და მიმიკა შედარებით ბუნებრივად გამოიყურებოდეს. უფრო თანამედროვე მეთოდებს შეუძლიათ ვიდეოს მთლიანად გენერირებაც, წინასწარ განსაზღვრული ტექსტის ან აღწერის საფუძველზე.

ხმის კლონირებისას ხელოვნური ინტელექტი სწავლობს ადამიანის ხმის ტემბრს, ინტონაციას, საუბრის რიტმსა და სხვა აკუსტიკურ მახასიათებლებს. შემდეგ მას შეუძლია შექმნას ახალი ფრაზები, რომლებიც იმ ადამიანის ხმას ჰგავს. ზოგიერთ სისტემას მხოლოდ მცირე აუდიონიმუში სჭირდება, თუმცა შედეგის ხარისხი დამოკიდებულია მონაცემებზე, მოდელსა და გამოყენებულ ტექნოლოგიაზე.

არსებობს კიდევ ერთი მნიშვნელოვანი მიმართულება — ტუჩების მოძრაობისა და მეტყველების სინქრონიზაცია. ამ მეთოდით ვიდეოში მყოფი ადამიანის პირის მოძრაობა შეიძლება ახალ აუდიოს მოერგოს. შედეგად იქმნება შთაბეჭდილება, რომ ადამიანი ისეთ სიტყვებს წარმოთქვამს, რომლებიც სინამდვილეში არასოდეს უთქვამს.

ყველა Deepfake ერთნაირად არ იქმნება. ზოგჯერ იცვლება მხოლოდ სახე, ზოგჯერ — ხმა, ხოლო ზოგ შემთხვევაში ვიდეო მთლიანად ხელოვნურად გენერირდება. სწორედ ამიტომ, მათი ამოცნობის ერთი უნივერსალური მეთოდი არ არსებობს.

სად გამოიყენება Deepfake სასარგებლო მიზნებისთვის?

Deepfake ხშირად მხოლოდ საფრთხეებთან ასოცირდება, თუმცა ტექნოლოგიას დადებითი გამოყენებაც აქვს. მისი შეფასებისას მნიშვნელოვანია გავმიჯნოთ ტექნოლოგიის შესაძლებლობები და ის მიზნები, რომელთათვისაც მას იყენებენ.

კინოინდუსტრიაში ციფრული სახის დამუშავება და მსახიობების გამოსახულების შეცვლა დიდი ხანია გამოიყენება. ხელოვნური ინტელექტის ახალი მეთოდები ამ სამუშაოს ზოგიერთ ნაწილს ამარტივებს. მაგალითად, შესაძლებელია ასაკოვანი პერსონაჟის ახალგაზრდულად წარმოჩენა, ვიზუალური ეფექტების შექმნა ან მსახიობის გამოსახულების დამუშავება რთულ სცენებში. თუმცა რეალური ადამიანის სახისა და ხმის გამოყენება თანხმობისა და საავტორო უფლებების საკითხებსაც აჩენს.

ტექნოლოგია საინტერესო შესაძლებლობებს ქმნის განათლებაშიც. ისტორიული პირების ციფრული რეკონსტრუქციით შეიძლება საგანმანათლებლო მასალის უფრო თვალსაჩინოდ წარმოდგენა, თუმცა აუცილებელია, მაყურებელმა იცოდეს, რომ ეკრანზე ისტორიული ჩანაწერი კი არა, თანამედროვე ტექნოლოგიით შექმნილი წარმოდგენაა. ასეთი მასალა ვერ ჩაანაცვლებს ისტორიულ წყაროებს და არ უნდა წარმოჩნდეს როგორც რეალური მტკიცებულება.

ხმის სინთეზი და ციფრული ავატარები შეიძლება სასარგებლო იყოს ვიდეოების სხვადასხვა ენაზე ადაპტირებისას, ვირტუალური დამხმარეების შექმნისას ან იმ ადამიანებისთვის, რომლებსაც მეტყველებასთან დაკავშირებული სირთულეები აქვთ. ზოგიერთ შემთხვევაში სინთეზური ხმა ადამიანს საშუალებას აძლევს, კომუნიკაცია გააგრძელოს.

ამრიგად, Deepfake-ის ტექნოლოგიები თავისთავად მხოლოდ მავნე არ არის. მათი სარგებლიანობა დიდწილად დამოკიდებულია იმაზე, არსებობს თუ არა თანხმობა, გამჭვირვალობა და მკაფიო განსხვავება რეალურ ჩანაწერსა და ხელოვნურად შექმნილ მასალას შორის.

Deepfake და თაღლითობა — როცა ყალბი ხმა ნამდვილ ადამიანს ჰგავს

Deepfake-ის ერთ-ერთი ყველაზე მნიშვნელოვანი რისკი თაღლითობაა. ადრე თაღლითს შესაძლოა მხოლოდ წერილის ან ყალბი პროფილის შექმნა დასჭირვებოდა. ახლა კი მას შეუძლია მსხვერპლს დაუკავშირდეს და ნაცნობის მსგავსი ხმით ესაუბროს.

წარმოიდგინეთ ასეთი შემთხვევა: ადამიანს ურეკავენ და ეუბნებიან, რომ მისი შვილი ან სხვა ახლობელი უბედურ შემთხვევას შეეჯახა და სასწრაფოდ სჭირდება ფული. ხმა ნაცნობია, საუბარი ემოციურია, ხოლო დრო თითქოს ძალიან ცოტაა. ასეთ ვითარებაში ადამიანი შეიძლება შეშინდეს და ფულის გადარიცხვაზე დაუფიქრებლად დათანხმდეს.

აშშ-ის ფედერალური სავაჭრო კომისია (FTC) მომხმარებლებს აფრთხილებს, რომ თაღლითებმა შეიძლება ინტერნეტში გამოქვეყნებული მოკლე აუდიონიმუშიც გამოიყენონ ახლობლის ხმის მისაბაძად. თაღლითობის ერთ-ერთი გავრცელებული ხერხია მსხვერპლზე ემოციური ზეწოლა, გადაუდებელი მოქმედების მოთხოვნა და თხოვნა, რომ მომხდარის შესახებ სხვას არაფერი უთხრას.

მსგავსი საფრთხე არსებობს ბიზნესშიც. დამნაშავემ შეიძლება ხელმძღვანელის ხმის იმიტაცია შექმნას და თანამშრომელს თანხის გადარიცხვა ან კონფიდენციალური ინფორმაციის გაგზავნა მოსთხოვოს. თუ ორგანიზაციაში ასეთი მოთხოვნების გადამოწმების მკაფიო პროცედურა არ არსებობს, ნაცნობი ხმა შეცდომის დაშვების ალბათობას ზრდის.

მთავარი საფრთხე მხოლოდ ტექნოლოგიის სიზუსტე არ არის. თაღლითები ადამიანების ემოციებსა და ნდობას იყენებენ. როდესაც ადამიანი შეშინებულია ან ფიქრობს, რომ ახლობელს დახმარება სჭირდება, მას შეიძლება აღარ დარჩეს დრო ინფორმაციის გადასამოწმებლად.

ამიტომ, თუ ვინმე ნაცნობი ხმით ფულს გთხოვთ, განსაკუთრებით მაშინ, როდესაც გადარიცხვას სასწრაფოდ ითხოვს, საუბარი დაუყოვნებლივ უნდა გადაამოწმოთ. გათიშეთ ზარი და თავად დაუკავშირდით ამ ადამიანს იმ ნომერზე, რომელიც უკვე იცით. თუ ვერ უკავშირდებით, სცადეთ სხვა ახლობელთან დაკავშირება. წინასწარ შეთანხმებული საკონტროლო სიტყვაც შეიძლება დამატებითი დაცვის საშუალება იყოს, თუმცა ის სხვა უსაფრთხოების ზომებს არ ცვლის.

წყარო: აშშ-ის ფედერალური სავაჭრო კომისია — როგორ ამოვიცნოთ ყალბი საგანგებო სიტუაციები.

ყალბი ვიდეოები და დეზინფორმაცია

Deepfake განსაკუთრებით პრობლემური ხდება მაშინ, როდესაც მას საზოგადოებრივი აზრის მანიპულირებისთვის იყენებენ. ხელოვნური ინტელექტით შესაძლებელია ისეთი ვიდეოს შექმნა, რომელშიც პოლიტიკოსი, ცნობილი ადამიანი ან სხვა საჯარო ფიგურა თითქოს ისეთ განცხადებას აკეთებს, რომელიც რეალურად არ გაუკეთებია.

თუ ასეთი ვიდეო სოციალურ ქსელში სწრაფად გავრცელდა, მაყურებელმა შეიძლება ის ნამდვილ ჩანაწერად მიიღოს და სხვებსაც გაუზიაროს. იმ დროისთვის, როდესაც ვიდეოს გაყალბება დადასტურდება, თავდაპირველმა მასალამ შესაძლოა უკვე ათასობით ან მილიონობით ადამიანამდე მიაღწიოს.

ყალბი ვიდეოების პრობლემა მხოლოდ ცრუ ინფორმაციის გავრცელება არ არის. ზოგჯერ რეალური ჩანაწერიც შეიძლება ყალბად გამოცხადდეს, ხოლო Deepfake-ის არსებობამ ადამიანებს ნებისმიერი არასასურველი ვიდეოს ნამდვილობაში ეჭვი შეატანინოს. შედეგად ზიანდება ნდობა როგორც მედიაში, ისე რეალურ მტკიცებულებებში.

ამიტომ ინფორმაციის გადამოწმებისას მნიშვნელოვანია არა მხოლოდ თავად ვიდეოს ყურება, არამედ მისი წარმომავლობის გარკვევაც. ვინ გამოაქვეყნა ჩანაწერი პირველად? არსებობს თუ არა სრული ვერსია? გაავრცელეს თუ არა ის სანდო საინფორმაციო საშუალებებმა? ემთხვევა თუ არა ვიდეოში ნათქვამი სხვა დადასტურებულ ფაქტებს?

ვიდეოს დიდი ნახვები, ბევრი კომენტარი ან ემოციური რეაქციები მისი ნამდვილობის მტკიცებულება არ არის.

როგორ ამოვიცნოთ Deepfake?

რამდენიმე წლის წინ ყალბი ვიდეოების ამოცნობისას ხშირად ყურადღებას ამახვილებდნენ სახის არაბუნებრივ მოძრაობაზე, თვალების უცნაურ ხამხამზე ან ტუჩებისა და ხმის შეუსაბამობაზე. ასეთი ნიშნები ზოგიერთ ჩანაწერში დღესაც შეიძლება გამოჩნდეს, მაგრამ თანამედროვე ტექნოლოგიები მუდმივად იხვეწება. ამიტომ მხოლოდ ვიზუალურ დეტალებზე დაყრდნობა სანდო მეთოდი არ არის.

პირველი — გადაამოწმეთ წყარო. თუ ვიდეო ცნობილ ადამიანს მიაწერს მნიშვნელოვან განცხადებას, მოძებნეთ მისი ოფიციალური გვერდი, სრული ინტერვიუ ან სანდო საინფორმაციო წყარო. თუ ჩანაწერი მხოლოდ უცნობ ანგარიშებზე ვრცელდება, ეს სიფრთხილის საფუძველია.

მეორე — მოძებნეთ ვიდეოს თავდაპირველი ვერსია. კადრიდან აღებული გამოსახულების საპირისპირო ძიება ზოგჯერ დაგეხმარებათ გაიგოთ, გამოქვეყნდა თუ არა იგივე კადრი უფრო ადრე სხვა კონტექსტში. ვიდეოს შემთხვევაში სასარგებლოა რამდენიმე განსხვავებული კადრის ცალ-ცალკე შემოწმება.

მესამე — ყურადღება მიაქციეთ კონტექსტს. შეიძლება ვიდეო ნამდვილი იყოს, მაგრამ მისი აღწერა ან თანდართული ტექსტი — ყალბი. მაგალითად, რეალური განცხადება შეიძლება სხვა დროს იყოს გაკეთებული ან სრულიად განსხვავებულ საკითხს ეხებოდეს. ამიტომ მნიშვნელოვანია არა მხოლოდ ჩანაწერის ნამდვილობა, არამედ ისიც, სწორად არის თუ არა ის წარმოდგენილი.

მეოთხე — საეჭვო თხოვნები დამოუკიდებლად გადაამოწმეთ. თუ ვიდეოზარით ან აუდიოშეტყობინებით ვინმე ფულს, პაროლს ან კონფიდენციალურ ინფორმაციას გთხოვთ, ნუ ჩათვლით, რომ ნაცნობი სახე ან ხმა პიროვნების ნამდვილობას ადასტურებს. გამოიყენეთ სხვა საკომუნიკაციო არხი და დაუკავშირდით ადამიანს დამოუკიდებლად.

მეხუთე — გამოიყენეთ ტექნიკური შემოწმების საშუალებები, მაგრამ შედეგს საბოლოო მტკიცებულებად ნუ მიიღებთ. არსებობს ინსტრუმენტები, რომლებიც გამოსახულების, აუდიოს ან ვიდეოს შესაძლო ხელოვნურ წარმოშობას ამოწმებს. თუმცა მათი სიზუსტე განსხვავდება, ხოლო ვიდეოს შეკუმშვამ, მონტაჟმა და სხვა ცვლილებებმა შედეგზე შეიძლება გავლენა მოახდინოს.

აშშ-ის სტანდარტებისა და ტექნოლოგიების ეროვნული ინსტიტუტი (NIST) სინთეზური მასალის რისკების შესამცირებლად განიხილავს ისეთ მიდგომებს, როგორიცაა წარმოშობის დადასტურება, ციფრული მარკირება, წყლის ნიშნები და ავტომატური ამოცნობა. არც ერთი ცალკეული მეთოდი არ იძლევა ყველა შემთხვევისთვის სრულ გარანტიას.

წყარო: NIST — სინთეზური მასალის გამჭვირვალობის ტექნიკური მიდგომები.

რატომ ვერ გვიცავს მხოლოდ ხელოვნური ინტელექტის დეტექტორი?

ერთი შეხედვით, გამოსავალი მარტივია: თუ ხელოვნურ ინტელექტს შეუძლია ყალბი ვიდეოს შექმნა, სხვა ხელოვნურმა ინტელექტმა ის უნდა ამოიცნოს. რეალურად კი ეს გაცილებით რთული ამოცანაა.

Deepfake-ის ამოცნობის სისტემა ეძებს ისეთ ნიშნებს, რომლებიც შეიძლება ხელოვნურად შექმნილ ან შეცვლილ მასალას ახასიათებდეს. მაგრამ გენერირების მეთოდების განვითარებასთან ერთად ეს ნიშნებიც იცვლება. გარდა ამისა, ვიდეოს შეკუმშვამ, დაბალმა ხარისხმა, განათებამ ან ხმის დამუშავებამ შეიძლება როგორც ამოცნობა გაართულოს, ისე მცდარი შედეგი გამოიწვიოს.

დეტექტორის მიერ მოცემული მაღალი ალბათობაც კი არ ნიშნავს, რომ ვიდეო აუცილებლად ყალბია. ასევე, თუ სისტემა ვიდეოს ნამდვილს მიიჩნევს, ეს თავისთავად არ ადასტურებს მის ავთენტურობას. ავტომატური შეფასება უნდა განვიხილოთ როგორც დამატებითი მინიშნება და არა საბოლოო განაჩენი.

უფრო საიმედო მიდგომაა რამდენიმე მეთოდის გაერთიანება: წყაროს შემოწმება, თავდაპირველი ფაილის მოძიება, კონტექსტის გადამოწმება, ტექნიკური ანალიზი და, საჭიროების შემთხვევაში, სპეციალისტის შეფასება. მნიშვნელოვანი გადაწყვეტილების მიღება მხოლოდ ერთი პროგრამის შედეგზე არ უნდა იყოს დამოკიდებული.

Deepfake, პირადი ცხოვრება და კანონი

Deepfake-ის კიდევ ერთი მნიშვნელოვანი საკითხი ადამიანის გამოსახულებისა და ხმის გამოყენებაა მისი თანხმობის გარეშე. შესაძლებელია ისეთი ვიდეოს შექმნა, რომელიც ადამიანს რეალურ ქმედებას მიაწერს, მის რეპუტაციას აზიანებს ან პირადი ცხოვრების ხელშეუხებლობას არღვევს. განსაკუთრებით მძიმე შედეგები შეიძლება ჰქონდეს სექსუალური ხასიათის ყალბ მასალას, რომელიც ადამიანის თანხმობის გარეშე ვრცელდება.

ამ შემთხვევებში ზიანი მხოლოდ იმით არ განისაზღვრება, რომ ვიდეო ხელოვნურია. ადამიანს შეიძლება დაემუქროს შევიწროება, შანტაჟი, პროფესიული პრობლემები ან ხანგრძლივი ფსიქოლოგიური ზეწოლა. ამიტომ მნიშვნელოვანია, რომ ასეთი მასალა არ გავაზიაროთ, არ გამოვიყენოთ ადამიანის დასამცირებლად და მისი გავრცელების შემთხვევაში შესაბამის პლატფორმას შევატყობინოთ.

სამართლებრივი მიდგომები ქვეყნების მიხედვით განსხვავდება. ზოგიერთ იურისდიქციაში კონკრეტული წესები ეხება პიროვნების გამოსახულების ან ხმის უკანონო გამოყენებას, თაღლითობას, ცილისწამებას ან ინტიმური მასალის უნებართვო გავრცელებას.

ევროკავშირში ხელოვნური ინტელექტის შესახებ აქტის 50-ე მუხლი განსაზღვრავს გარკვეულ გამჭვირვალობის ვალდებულებებს, მათ შორის Deepfake-ის ტიპის ხელოვნურად შექმნილი ან შეცვლილი მასალის გამჟღავნებას. ამ წესების კონკრეტული გამოყენება დამოკიდებულია აქტის მოთხოვნებზე, შესაბამის გამონაკლისებსა და მოქმედების თარიღებზე. ევროკომისიის განმარტებით, შესაბამისი გამჭვირვალობის ვალდებულებები 2026 წლის 2 აგვისტოდან ამოქმედდა.

წყარო: ევროკომისია — ხელოვნური ინტელექტით შექმნილი მასალის გამჭვირვალობის წესები.

თუმცა კანონის არსებობა თავისთავად ვერ აღმოფხვრის პრობლემას. მასალის სწრაფად გავრცელება, სხვადასხვა ქვეყანაში მოქმედი განსხვავებული წესები და მისი თავდაპირველი შემქმნელის დადგენის სირთულე კვლავ მნიშვნელოვან გამოწვევებად რჩება.

რა გველოდება მომავალში?

Deepfake-ის ტექნოლოგიები, სავარაუდოდ, კიდევ უფრო განვითარდება. ვიდეოებისა და ხმების გენერირება შეიძლება უფრო სწრაფი, იაფი და ხელმისაწვდომი გახდეს. ამავე დროს, გაუმჯობესდება ციფრული მასალის წარმოშობის დადასტურების, ხელოვნური ცვლილებების გამოვლენისა და კონტენტის მარკირების მეთოდებიც.

მომავალში შესაძლოა უფრო გავრცელდეს ისეთი ციფრული სერტიფიკატები და ტექნიკური მექანიზმები, რომლებიც გვაჩვენებს, სად და როგორ შეიქმნა მასალა, ვინ დაამუშავა და შეიცვალა თუ არა ის გამოქვეყნების შემდეგ. თუმცა ასეთი მექანიზმები ყველა პრობლემას ვერ გადაჭრის: ყველა მოწყობილობა ან პლატფორმა მათ არ გამოიყენებს, ხოლო წყაროს შესახებ ინფორმაციის არარსებობა ავტომატურად არ ნიშნავს, რომ ჩანაწერი ყალბია.

ამავე დროს, Deepfake-ის გამოყენება შეიძლება სულ უფრო ბუნებრივი გახდეს კინოში, თამაშებში, თარგმანში, ვირტუალურ კომუნიკაციასა და განათლებაში. ტექნოლოგიის განვითარება თავისთავად არ ნიშნავს, რომ ყველა ასეთი გამოყენება საზიანოა. მთავარი საკითხი იქნება, როგორ დავიცავთ ადამიანის უფლებებს, როგორ გავარჩევთ შემოქმედებით გამოყენებას მოტყუებისგან და როგორ შევინარჩუნებთ სანდო ინფორმაციას.

საზოგადოებას მხოლოდ უფრო ძლიერი დეტექტორები არ სჭირდება. საჭიროა მედიაწიგნიერებაც — ინფორმაციის წყაროს შემოწმების, კონტექსტის გააზრებისა და საეჭვო მტკიცებების გადამოწმების უნარი. ტექნოლოგიური ინსტრუმენტები შეიძლება დაგვეხმაროს, მაგრამ პასუხისმგებლიანი გადაწყვეტილების მიღება კვლავ ადამიანების მონაწილეობას მოითხოვს.

დასკვნა — შეიძლება თუ არა ყველაფრის დაჯერება, რასაც ვხედავთ?

Deepfake გვაჩვენებს, რომ ციფრულ ეპოქაში ადამიანის სახე, ხმა და მოძრაობა შეიძლება ისეთი სიზუსტით იქნეს იმიტირებული, რომ რეალური ჩანაწერისა და ხელოვნურად შექმნილი მასალის გარჩევა რთული გახდეს. ეს ტექნოლოგია ახალ შესაძლებლობებს ქმნის ხელოვნებაში, განათლებასა და კომუნიკაციაში, მაგრამ ამავე დროს ზრდის თაღლითობის, დეზინფორმაციისა და პირადი ცხოვრების დარღვევის რისკებს.

გამოსავალი ყველაფრის მიმართ უნდობლობა არ არის. არც ის იქნება სწორი, რომ ყველა უჩვეულო ვიდეო ყალბად მივიჩნიოთ. უფრო გონივრულია, ვისწავლოთ ინფორმაციის გადამოწმება, ყურადღება მივაქციოთ მის წარმომავლობას და ემოციური ზეწოლის პირობებში დაუფიქრებელი მოქმედება თავიდან ავიცილოთ.

როდესაც ვიდეოში ნაცნობ ადამიანს ვხედავთ ან მის ხმას ვისმენთ, ეს უკვე აღარ უნდა იყოს ერთადერთი საფუძველი, რომ ყველაფერი უპირობოდ დავიჯეროთ. ციფრულ სამყაროში სულ უფრო მნიშვნელოვანი ხდება არა მხოლოდ ის, რასაც ვხედავთ და გვესმის, არამედ ისიც, საიდან მოვიდა ინფორმაცია და არსებობს თუ არა მისი ნამდვილობის დამადასტურებელი სანდო მტკიცებულება.

თუ სტატია თქვენთვის საინტერესო იყო, გაუზიარეთ მეგობრებს და დატოვეთ კომენტარი.