Kľúčové poznatky
- Odborníci na súkromie vyjadrujú znepokojenie nad tým, ako Facebook využíva verejné fotografie na Instagrame na trénovanie umelej inteligencie.
- Program sa naučil rozpoznávať obrázky tak, že počítaču ukázal viac ako 1 miliardu verejných fotografií.
- Zásady ochrany osobných údajov Instagramu obsahujú sekciu, ktorá používateľov informuje, že informácie môžu byť použité vo výskume a vývoji.
Facebook, ktorý používa instagramové fotografie na trénovanie umelej inteligencie, vyvoláva obavy o súkromie.
Gigrant sociálnych médií nedávno oznámil, že vytvoril softvér, ktorý sa dokáže poučiť z toho, na čo sa pozerá. Program sa naučil rozpoznávať obrázky prezeraním viac ako 1 miliardy verejných fotografií. Odborníci tvrdia, že používatelia by si mali uvedomiť, že Facebook používa ich obrázky.
„Všetko je to o poznaní súhlasu,“povedal v e-mailovom rozhovore James E. Lee, prevádzkový riaditeľ Centra zdrojov pre krádež identity.
"Zásady ochrany osobných údajov Instagramu, ktoré si väčšina ľudí pravdepodobne neprečíta, jasne uvádza, že spoločnosť si vyhradzuje právo použiť fotografie, ktoré uverejníte na výskum. Používatelia môžu rozpoznávanie tváre zapnúť/vypnúť v nastaveniach ochrany osobných údajov."
Lepšie ako ostatní
Facebookový program, prezývaný SEER pre SEBA-kontrolovaný, porazil v teste rozpoznávania objektov iné modely umelej inteligencie (AI), tvrdí spoločnosť. Program dosiahol „skóre presnosti klasifikácie“84.2 % pri teste, ktorý kontroluje, či program umelej inteligencie dokáže identifikovať, čo je na obrázku.
"Výkon SEER dokazuje, že samoobslužné učenie môže vynikať pri úlohách počítačového videnia v reálnom svete," uviedla spoločnosť v blogovom príspevku.
„Toto je prielom, ktorý v konečnom dôsledku otvára cestu pre flexibilnejšie, presnejšie a prispôsobiteľné modely počítačového videnia v budúcnosti.“
Aj keď im zmluvné podmienky Facebooku môžu umožniť využívať údaje používateľov takýmto spôsobom, väčšina používateľov si nie je explicitne a aktívne vedomá, že ich údaje sa ťažia na takéto účely.
Ak bude SEER komerčne spustený, pomôže identifikovať objekty – nie ľudí – bez toho, aby bol naprogramovaný tak, aby prostredníctvom štítku vedel, čo je na fotografii, povedal Lee. „Je to efektívnejší a rýchlejší spôsob ako súčasná metóda, ktorá si vyžaduje obrovské množiny údajov na priradenie objektu k jeho identite,“dodal.
"Vždy existuje možnosť zneužitia, ale existujú aj legitímne potenciálne výhody tohto druhu technológie."
Program Facebooku by mohol spoločnosti pomôcť lepšie strážiť obsah, ktorý porušuje jej zásady, napríklad obmedzuje neželané vystavenie obscénnym alebo grafickým obrázkom, uviedla v e-mailovom rozhovore Aimee O’Driscoll, bezpečnostná výskumníčka na stránke Comparitech. Dalo by sa tiež použiť na automatický popis obrázkov, čím by sa zlepšil používateľský zážitok pre ľudí so zrakovým postihnutím.
S týmto programom ste už súhlasili
Zásady ochrany osobných údajov Instagramu obsahujú sekciu, ktorá používateľov informuje o tom, že informácie môžu byť použité vo výskume a vývoji. „Spoločnosť využíva svoje zásoby údajov pre inú časť svojho podnikania, podobne ako používa používateľské údaje na kŕmenie svojej reklamnej činnosti,“povedal O’Driscoll.
„Používatelia sa aj tak môžu cítiť nepríjemne, keď sa ich obrázky používajú týmto spôsobom.“
Yashar Behzadi, generálny riaditeľ spoločnosti Synthesis AI, ktorá využíva umelú inteligenciu na počítačové videnie, povedal, že najnovšie vylepšenia AI Facebooku predstavujú „významné zlepšenie“v schopnosti počítačového videnia.
„Používatelia môžu pravdepodobne očakávať lepšie označovanie obrázkov a kontextové vyhľadávanie, zatiaľ čo inzerenti budú mať prospech z presnejšieho zacielenia na používateľov,“dodal.
Prístup Facebooku, ktorý využíva miliardy obrázkov na Instagrame, však vyvoláva vážne obavy týkajúce sa súkromia a regulácie, povedal Behzadi.
„Aj keď im zmluvné podmienky Facebooku môžu umožniť využívať používateľské údaje takýmto spôsobom, väčšina používateľov si nie je explicitne a aktívne vedomá, že ich údaje sa ťažia na takéto účely,“povedal.
„Sme presvedčení, že spoločnosti by mali byť voči používateľom priamočiarejšie a transparentnejšie, čo im umožní plnú kontrolu nad svojimi údajmi.“
Mnoho iných spoločností použilo umelú inteligenciu na identifikáciu obsahu obrázka, zdôraznil Bobby Gill, generálny riaditeľ vývojára aplikácií Blue Label Labs, v e-mailovom rozhovore. „Znepokojujúca je však skutočnosť, že sa to takmer určite využije na marketing,“dodal.
Nový program by mohol vyvolať potenciálne obavy o súkromie v závislosti od toho, ako Facebook plánuje systém používať, povedal Gill.
"Tieto údaje budú pravdepodobne prístupné technickým obchodníkom, ktorí by ich použili na identifikáciu určitých trendov na základe rôznych prvkov identifikovaných na obrázku," povedal.
"Napríklad schopnosť získavať informácie z obrázkov, ktoré ľudia zverejňujú, dodáva asociačným systémom, ktoré vo všeobecnosti využívajú správanie na profilovanie a zacielenie jednotlivcov, ďalší rozmer. Možno sa dozvieme, že každý, kto má, povedzme, žaby v 3- 7 % ich obrázkov s vysokou pravdepodobnosťou kupuje domáce fitness vybavenie."
