ხელოვნური ინტელექტი (“AI”) და მასთან დაკავშირებული რისკები

ხელოვნური ინტელექტი (“AI”) და მასთან დაკავშირებული რისკები

ხელოვნური ინტელექტის თანამედროვე ტექნოლოგიებში ინტეგრირებისა და გამოყენების შემთხვევათა რაოდენობა მზარდია. ხელოვნურმა ინტელექტმა შეცვალა საზოგადოების ცხოვრების სხვადასხვა სფერო და მეცნიერების არაერთი დარგი. “AI” სისტემების დახმარებით შესაძლებელი გახდა გარკვეული საქმიანობის გამარტივება, მცირე დროში ინფორმაციის ანალიტიკა, გადაწყვეტილების მიღება და ა.შ., თუმცა ხელოვნური ინტელექტის გამოყენებას თან ახლავს არაერთი რისკი, რაც განსაკუთრებით მონაცემთა სუბიექტის პირადი და ოჯახური ცხოვრების, პირადი სივრცისა და კომუნიკაციის ხელშეუხებლობის უფლებებს მიემართება.

ხელოვნური ინტელექტის (“AI”) სისტემა დაფუძნებულია მანქანურ ტექნოლოგიებზე, რომელიც აშკარა ან ნაგულისხმევი მიზნებისთვის, მისთვის მიწოდებული ინფორმაციიდან გამომდინარე აანალიზებს, როგორ მოახდინოს შედეგების, კერძოდ, პროგნოზირების, შინაარსის („კონტენტის“), რეკომენდაციის ან გადაწყვეტილებების გენერირება, რომლებსაც შესაძლოა გავლენა ჰქონდეთ ფიზიკურ ან ვირტუალურ გარემოზე.

2024 წლის 13 ივნისს ევროკავშირმა „ხელოვნური ინტელექტის აქტი“ მიიღო, რომელიც ხელოვნური ინტელექტის სისტემების პირველ სამართლებრივ მარეგულირებელ ჩარჩოს წარმოადგენს და ხელოვნური ინტელექტის განვითარების პროცესში უსაფრთხოების, ადამიანის ფუნდამენტური უფლებებისა და ეთიკის პრინციპების დაცვას ისახავს მიზნად. რეგულაცია აწესრიგებს ისეთ საკითხებს, როგორიცაა მაღალი რისკის შემცველი, ასევე ზოგადი დანიშნულების ხელოვნური ინტელექტი და მათი სამართლებრივი რეგულირება. ამასთან, იგი განსაზღვრავს ხელოვნური ინტელექტის გამოყენების აკრძალულ შემთხვევებს და სხვადასხვა დონეზე “AI”-ისთან დაკავშირებული ორგანოების შექმნას ითვალისწინებს. ასევე აღსანიშნავია, რომ საქართველო წარმოადგენს ევროსაბჭოს 2024 წლის 5 სექტემბრის ჩარჩო კონვენციის („ხელოვნური ინტელექტის და ადამიანის უფლებების, დემოკრატიისა და კანონის უზენაესობის შესახებ“) ხელშემკვრელ სახელმწიფოს. კონვენცია წარმოადგენს პირველ საერთაშორისო და სავალდებულო დოკუმენტს, რომელიც მიზნად ისახავს ხელოვნური ინტელექტის სისტემების გამოყენებასა და ადამიანის უფლებებს, ტექნოლოგიურ განვითარებასა და ინოვაციებს შორის ბალანსის დაცვას.

 

ხელოვნური ინტელექტის მეშვეობით ფოტოვიდეომასალის დამუშავება

დღესდღეობით, სულ უფრო აქტიურად გამოიყენება ხელოვნური ინტელექტისა (“AI”) და ვიზუალური დიზაინის სფეროში სპეციალიზებული აპლიკაციები. ტექნოლოგიების განვითარების ტემპის გათვალისწინებით, ადრე მხოლოდ პროფესიონალებისთვის ხელმისაწვდომ აპლიკაციებს დღეს უკვე უამრავი მომხმარებელი ჰყავს. ციფრულ რეალობაში ყველას სურს, მათი ვიზუალური გამოსახულება გახადოს შთამბეჭდავი, ხარისხიანი და სრულყოფილი. აღნიშნული მიზნის მიღწევისთვის შესაძლებელია სხვადასხვა აპლიკაციის გამოყენება, მათ შორის განსაკუთრებული პოპულარობით სარგებლობს აპლიკაცია “Meitu”. მსგავსი ტიპის აპლიკაციები რამდენიმე წამში ფოტოებისა და ვიდეოების პროფესიონალურ ნამუშევრებად გარდაქმნის საშუალებას იძლევა. აპლიკაციის მეშვეობით შესაძლებელია არა მხოლოდ ფოტოსურათების რედაქტირება, არამედ მისი ტრანსფორმაციაც, კერძოდ: ფონის და ფერების შეცვლა; სხვადასხვა ეფექტის დამატება; ტანსაცმელების ცვლილება; ფოტო- და ვიდეომონტაჟი.

ერთი მხრივ, ფოტოვიდეომასალებთან მუშაობა გამარტივებული საშუალებებით საკმაოდ სასიამოვნო და სახალისო პროცესია, თუმცა თქვენს ფოტოსურათებზე, ვიდეოებსა თუ მოწყობილობის კამერაზე აპლიკაციებისთვის წვდომის მინიჭებამდე დარწმუნდით: უსაფრთხოა თუ არა პერსონალური მონაცემების დამუშავება, აცნობიერებთ თუ არა რისკებს, რაც პერსონალური მონაცემების დამუშავებას ახლავს თან და იცით თუ არა, როგორ დაიცვათ თქვენი პირადი ინფორმაცია.

 

აპლიკაცია “Meitu” - ხელოვნური ინტელექტისა და ვიზუალური დიზაინის ერთობლიობა

“Meitu” არის ჩინური ტექნოლოგიური კომპანია, რომელიც 2008 წელს შეიქმნა და სპეციალიზებულია ხელოვნური ინტელექტისა და ვიზუალური დიზაინის მიმართულებით. კომპანიის მიზანია, გააერთიანოს „ხელოვნება და ტექნოლოგია“ და შექმნას პროდუქტები, რომელთა საშუალებით მარტივად დამუშავდება ფოტოსა და ვიდეოჩანაწერის ვიზუალი.

2008 წლიდან დღემდე “Meitu”-მ შექმნა მრავალი პოპულარული პროდუქტი, მათ შორის, “BeautyCam”, “BeautyPlus”, “Wink”, “DesignKit”, “Kumoo” და “Kaipai”. 2025 წლის ივნისის მონაცემებით, კომპანიას ჰყავს თვეში 280 მილიონზე მეტი აქტიური მომხმარებელი, მათგან 98 მილიონი - ჩინეთის სახალხო რესპუბლიკის ფარგლებს გარეთ.

კომპანიის განცხადებით, მონაცემები გროვდება აპლიკაციის ფუნქციონირების გაუმჯობესებისა და რეკლამების ოპტიმიზაციის მიზნით, თუმცა ექსპერტები აღნიშნავენ, რომ მონაცემთა მოცულობა და ხასიათი ზოგიერთ შემთხვევაში წარმოშობს პერსონალურ მონაცემთა დამუშავებასთან დაკავშირებულ რისკებს. აგრეთვე, ერთ-ერთმა საერთაშორისო ტექნოლოგიურმა გამოცემამ გამოაქვეყნა სტატია, რომელშიც აღნიშნულია, რომ აპლიკაციის ფარგლებში დამუშავებული პერსონალური ინფორმაცია იგზავნება ჩინეთის სახალხო რესპუბლიკაში განთავსებულ სერვერებზე. თავის მხრივ, “Meitu” აცხადებს, რომ მონაცემთა დაცვის უზრუნველსაყოფად იყენებს დაშიფვრის ტექნოლოგიებს და მონაცემებს მესამე მხარეებს არ უზიარებს.

ანალიტიკოსების შეფასებით, ჩინეთის სახალხო რესპუბლიკაში არ არსებობს დამოუკიდებელი საზედამხედველო ორგანო, რომელიც ეფექტიანად გააკონტროლებს მონაცემების დამუშავების, მათ შორის, შენახვისა და მათზე წვდომის პროცესს. შესაბამისად, მიუხედავად იმისა, რომ მონაცემები შესაძლოა დაშიფრული ფორმით იგზავნებოდეს, არსებობს შესაძლებლობა, რომ სახელმწიფო უწყებებს ჰქონდეთ მათზე წვდომა - განსაკუთრებით მაშინ, როდესაც კომპანიები ჩინეთის იურისდიქციაში მოქმედებენ.

“Meitu”-ს აპლიკაციით შესაძლებელია:

  • ფოტოებზე ასახულ პირთა ვიზუალის რედაქტირება;
  • ფოტოებსა და ვიდეოებზე ეფექტების დამატება - მარტივად შეიძლება შეიცვალოს ფერები, განათება, ტონალობა;
  • „ფილტრების“ გამოყენება;
  • ვიდეოების მოდიფიკაცია - ვიდეოების მონტაჟი, ფონების შეცვლა, სახის ავტომატური რეჟიმით ცვლილება;
  • კრეატიული დიზაინის შექმნა პოსტერებისთვის, ბანერებისა და სოციალური მედიისთვის.

ზემოაღნიშნული აქტივობები დაკავშირებულია დიდი მოცულობით პერსონალური მონაცემების დამუშავებასთან.

 

  1. რა მონაცემებს აგროვებს აპლიკაცია “Meitu”?

“Meitu”-ს კონფიდენციალობის პოლიტიკის თანახმად, აპლიკაციას აქვს წვდომა მონაცემთა სუბიექტების ფოტოსურათებზე, ვიდეოკამერაზე, მოწყობილობის უნიკალურ იდენტიფიკატორზე, “IP” მისამართსა და ადგილმდებარეობაზე. აგრეთვე, გროვდება ინფორმაცია აპლიკაციის გამოყენების შესახებ, კერძოდ, რომელ ფილტრებს ანიჭებს მომხმარებელი უპირატესობას, რა სიხშირით იყენებს პროგრამას და ა.შ.

 

  1. რომელ ქვეყნებში მუშავდება ან გადაიცემა პერსონალური ინფორმაცია?

“Meitu”-ის კონფიდენციალობის პოლიტიკის მიხედვით, მონაცემები მუშავდება ჩინეთის სახალხო რესპუბლიკაში, სინგაპურის რესპუბლიკაში, ამერიკის შეერთებულ შტატებსა და ევროკავშირის ქვეყნებში. აღნიშნულის გათვალისწინებით, გადაცემული პერსონალური მონაცემები ექცევა შესაბამისი ქვეყნის იურისდიქციის ფარგლებში.

 

  1. რა მიზნებით მუშავდება მონაცემთა სუბიექტების პერსონალური ინფორმაცია?

კონფიდენციალობის პოლიტიკის დოკუმენტის შესაბამისად, აპლიკაცია “Meitu” პერსონალურ მონაცემებს ამუშავების, მათ შორის, შემდეგი მიზნებისთვის:

  • მომსახურების გაუმჯობესება;
  • სტატისტიკური ანალიზის წარმოება;
  • ანგარიშის შექმნა;
  • ადგილმდებარეობის შესაბამისი მომსახურების უზრუნველყოფა;
  • მომხმარებლის გამოცდილების გაუმჯობესება;
  • ვინაობის დადასტურება;
  • მომხმარებლისგან უკუკავშირის მიღება.

 

რისკები, რომლებიც შეიძლება წარმოიშვას მსგავსი აპლიკაციის გამოყენებისას პერსონალური მონაცემების დამუშავებით

უდავოა, რომ ხელოვნური ინტელექტით აღჭურვილი აპლიკაციები გართობის ან კრეატიული თვითგამოხატვის საშუალებებია, მაგრამ რეალურად ისინი მონაცემთა მასშტაბური დამუშავების პლატფორმებად ფუნქციონირებენ.

“Meitu”-ს და მისი მსგავსი ტიპის აპლიკაციების გამოყენებასთან დაკავშირებით ერთ-ერთი მთავარი პრობლემური საკითხია აპლიკაციის მიერ გადაჭარბებული ნებართვების მოთხოვნა. აპლიკაცია ითხოვს წვდომას ინფორმაციაზე, რაც ფოტოს რედაქტირებისთვის აუცილებელი არ არის. მაგალითად, აპლიკაციას სჭირდება წვდომა “GPS” მდებარეობაზე, “SIM” ბარათის მონაცემებზე, “Wi-Fi”-ის ქსელსა და სხვა ტექნიკურ დეტალებზე. ცხადია, აღნიშნული აჩენს კითხვებს დასახელებული მოცულობის მონაცემების დამუშავების საჭიროებასთან, ხოლო მონაცემების ჩინეთის სახალხო რესპუბლიკაში გადაცემის შემთხვევაში პერსონალური მონაცემების სათანადო დაცვასთან დაკავშირებით.

დამატებით, არსებობს მონაცემთა ბოროტად გამოყენების რისკი. შეგროვებული ინფორმაცია შესაძლოა, გამოყენებულ იქნეს რეკლამირების, ბაზრის ანალიზისა ან სხვა კომერციული მიზნებისთვის, ხოლო მომხმარებელს აღნიშნულის მოლოდინი აპლიკაციის გადმოწერის პროცესში არ აქვს.

გაზიარებული ფოტოვიდეომასალა სხვადასხვა მიზნით გამოიყენება. ამ პროცესში საყურადღებოა პერსონალურ მონაცემთა დამუშავებასთან დაკავშირებული სხვა ძირითადი გამოწვევები:

  • ბიომეტრიული მონაცემების უკანონო დამუშავება: ერთ-ერთი მნიშვნელოვანი საფრთხე განსაკუთრებული კატეგორიის - ბიომეტრიული მონაცემების დამუშავებას უკავშირდება. სახის გამოსახულება ადამიანის უნიკალური იდენტიფიკატორია, რომლის გამოყენება ხელოვნური ინტელექტის სისტემის ფუნქციონირების პროცესში შეიძლება მოხდეს მომხმარებლის ინფორმირების გარეშე. თუკი ამგვარი ინფორმაცია აღმოჩნდება უცხო სერვერებზე, განსაკუთრებით ქვეყნებში, სადაც მონაცემთა დაცვის სათანადო გარანტიები არ არის უზრუნველყოფილი, მონაცემთა სუბიექტის უფლებები რისკის ქვეშ დადგება;
  • მონაცემთა დამუშავების გამჭვირვალობის პრინციპის დარღვევა: აპლიკაციის გამოყენებისას ხშირად მომხმარებელს არ აქვს სრული ინფორმაცია მის მიერ ატვირთული ფოტოვიდეომასალების შენახვის ადგილის, ვადის, მათზე წვდომის უფლებამოსილების მქონე პირების, მესამე მხარისთვის გადაცემის შესახებ, რაც გამჭვირვალობის პრინციპს ეწინააღმდეგება;
  • მონაცემთა უსაფრთხოების დარღვევა: ხშირად, საყოველთაოდ ცნობილი და ფართოდ გამოყენებადი აპლიკაციები კიბერთავდასხმების სამიზნედ იქცევიან. აღნიშნულ შემთხვევაში არსებობს მონაცემთა სუბიექტების პერსონალური მონაცემების არაუფლებამოსილი მხარისთვის გამჟღავნების, ასევე, უნებართვო შეცვლის, არამართლზომიერი ან შემთხვევითი დაზიანების, მონაცემებზე წვდომის დაკარგვის, შეზღუდვის, მონაცემების განადგურების ან წაშლის რისკები.

ცხადია, დასახელებული რისკები არ არის ამომწურავი და შესაძლებელია, დამატებით სხვა უკანონო მიზნებით დამუშავდეს პერსონალური მონაცემები. შესაბამისად, თითოეული მომხმარებელი უნდა აცნობიერებდეს თავისი პერსონალური მონაცემების მნიშვნელობას და მას, საჭიროების შემთხვევაში, უნდა ჰქონდეს ინფორმაცია საკუთარი უფლებების დაცვის თაობაზე.

რეკომენდაციები მომხმარებელთა პერსონალური მონაცემების დასაცავად

  • ყურადღებით წაიკითხეთ კონკრეტული აპლიკაციის კონფიდენციალობის პოლიტიკა;
  • აპლიკაციები ჩამოტვირთეთ მხოლოდ სანდო წყაროებიდან (“App Store”, “Google Play”);
  • შეამოწმეთ, რომელი ქვეყნის ტერიტორიაზე ინახება თქვენი პერსონალური ინფორმაცია და რა ვადით;
  • გაარკვიეთ, ვის შეიძლება ჰქონდეს წვდომა თქვენს მონაცემებზე და გადაეცემა თუ არა ისინი მესამე მხარეს;
  • ნებართვა გაეცით საჭიროების შესაბამისად - როდესაც აპლიკაცია ითხოვს წვდომას თქვენი მოწყობილობის კამერასა და მიკროფონზე, ასევე თქვენს ადგილმდებარეობაზე ან საკონტაქტო ინფორმაციაზე, დაფიქრდით, ნამდვილად საჭიროა თუ არა წვდომის მოპოვება მომსახურების მისაღებად;
  • შეამოწმეთ, რომ აპლიკაცია იძლევა მონაცემთა წაშლის შესაძლებლობას;
  • მოერიდეთ სხვა პირთა ფოტოსურათების დამუშავებას მათი თანხმობის გარეშე;
  • გახსოვდეთ, თქვენი ფოტოსურათები შეიძლება, შეიცავდეს ინფორმაციას ადგილმდებარეობის, გადაღების დროისა და სხვა დეტალების შესახებ;
  • საჭიროების არარსებობისას, აპლიკაცია გამოყენების შემდეგ წაშალეთ;
  • რეგულარულად გადაამოწმეთ თქვენი მოწყობილობის უსაფრთხოების პარამეტრები;
  • დარწმუნდით, რომ აპლიკაცია უზრუნველყოფს თქვენი, როგორც მონაცემთა სუბიექტის, უფლებების დაცულობას;
  • თუ აპლიკაცია ითხოვს პირადი ანგარიშის შექმნას, ­ყოველთვის გამოიყენეთ რთული პაროლი და ჩართეთ ორეტაპიანი დადასტურების ფუნქცია, რათა თავიდან აიცილოთ ანგარიშზე უნებართვო წვდომა.

 

წყაროები: