Зум се удружује са светом како би сузбили дипфејкове у видео позивима

Последње ажурирање: КСНУМКС априла КСНУМКС
  • Зум интегрише World ID Deep Face технологију како би потврдио да су учесници састанка стварни људи, а не дипфејкови генерисани вештачком интелигенцијом.
  • Систем упоређује слику снимљену помоћу Orb-а, скенирање лица у реалном времену и снимак видеа уживо пре него што прикаже значку „Верификовани човек“.
  • Ова мера одговара на повећање корпоративних превара са дипфејковима, са губицима већим од 200 милиона долара за неколико месеци и случајевима високог профила попут оног са Арупом.
  • Свет проширује свој екосистем верификације партнерствима у секторима као што су онлајн упознавање, плаћања, концерти и дигитални потписи, јачајући поверење у дигиталним окружењима.

Безбедни видео позиви са верификацијом идентитета

Ширење дипфејкова и превара заснованих на вештачкој интелигенцији ставило је компаније широм света у стање узбуне, укључујући многе са седиштем у Европи и Шпанији, које се свакодневно ослањају на видео позиве за руковање осетљивим информацијама и закључивање послова високе вредности. У том контексту, Zoom је одлучио да предузме акцију и удружи се са World , компанијом за верификацију идентитета коју је основао Сем Алтман, како би покушао да обузда дигиталне преваранте.

Овим партнерством, платформа за видео конференције има за циљ да омогући учесницима састанка да поуздано докажу да иза сваке камере стоји стварна особа , а не идентитет генерисан вештачком интелигенцијом. Овај потез долази у време када традиционални механизми за откривање манипулације видео записима почињу да заостају у поређењу са брзим темпом побољшања генеративних модела.

Зум покреће нови модел сарадње заснован на вештачкој интелигенцији
Повезани чланак:
Зум покреће нови модел сарадње са вештачком интелигенцијом у дигиталном раду

Растући проблем: милионске преваре коришћењем дипфејкова у видео позивима

Последњих година, умножили су се случајеви корпоративних превара, у којима криминалци користе лица и гласове генерисане вештачком интелигенцијом да би се представљали као руководиоци или колеге. Један од најчешће цитираних случајева је случај инжењерске фирме Аруп, која је изгубила 25 милиона долара почетком 2024. године након видео позива у којем је запослени у Хонг Конгу преварен дигиталном рекреацијом финансијског директора и других наводних колега.

Сличне ситуације су се поновиле и касније, са нападима на мултинационалне компаније у различитим регионима, укључујући и један познати случај у Сингапуру 2025. године. Према проценама сектора сајбер безбедности, губици од превара омогућених дипфејковима премашили су 200 милиона долара само у првом кварталу прошле године, са просечним трошковима по инциденту који већ лако прелазе 500.000 долара.

Иако су ове врсте напада тренутно концентрисане у пословним окружењима и великим трансакцијама, претња је посебно забрињавајућа за европске компаније које управљају критичним операцијама путем видео конференција , од банака до адвокатских канцеларија и консултантских кућа. Није само у питању новац: у питању су и излагање поверљивих података и поверење у дигиталне канале.

До сада су се многи одбрамбени системи фокусирали на преглед видео фрејмова како би покушали да идентификују визуелне артефакте типичне за дипфејк. Међутим, квалитет генеративних видео модела се толико побољшао да ова врста анализе кадар по кадар постаје све непоузданија, посебно у окружењима ниске резолуције или слабо осветљених окружења, што је уобичајено на удаљеним састанцима.

Зум и Светска алијанса за људску верификацију

Како World ID Deep Face функционише у Zoom-у

Да би ствари отишао корак даље, Zoom сада интегрише World ID Deep Face технологију , систем верификације који не анализира само видео, већ комбинује неколико тестова идентитета који су раније били повезани са стварном особом. Циљ је да се подигне летвица довољно да лажно представљање некога буде изузетно тешко, чак и са напредном вештачком интелигенцијом.

Процес се заснива на три главне компоненте. Прво, World користи криптографски потписану слику снимљену током почетне регистрације корисника помоћу Orb уређаја, биометријског скенера који компанија користи да би потврдила да је стварна особа присутна. Ова слика се затим повезује са World ID-ом корисника.

Друго, када неко треба да учествује на састанку, систем врши скенирање лица у реалном времену са корисниковог уређаја (нпр. лаптопа или мобилног телефона), такође додајући тестове живости како би се спречило да једноставна фотографија или унапред снимљени видео заварају систем.

Коначно, World ID Deep Face анализира кадар из видеа уживо који виде остали учесници . Тек када се потписана слика регистрације, скенирање у реалном времену и тај кадар подударају унутар утврђених параметара, особа се сматра верификованом.

Ако су провере успешне, Zoom приказује значку „Верификована особа“ поред имена учесника , омогућавајући другим учесницима да лако идентификују ко је прошао овај побољшани процес провере. Компанија је објаснила да интеграција анализира само видео сигнал, а не и звук, како би се одржао висок ниво приватности.

Чекаонице, провере на захтев и праћење на критичним састанцима

Поред визуелног брендирања, савез укључује нове опције за управљање тим ко се придружује сваком позиву. Организатори састанака могу активирати „чекаоницу са дубоким лицем“ где сви учесници морају да заврше верификацију идентитета пре уласка. Ова функција је посебно корисна за састанке на којима се разговара о финансијским трансакцијама, спајањима или стратешким информацијама.

Штавише, током саме видеоконференције, сваки учесник ће имати могућност да захтева верификацију другог корисника у реалном времену . Ово додаје додатни слој контроле у ​​случајевима када постоји сумња у то да ли је особа заиста она за кога се представља, што је све чешће у окружењима са великом флуктуацијом тима или са спољним учесницима.

Зум ову интеграцију уклапа у свој отворени екосистемски приступ , који има за циљ да понуди различите алате и технолошке партнере како би се прилагодили потребама сваког клијента. Немају све организације исти ниво изложености или исте регулаторне захтеве, па платформа жели да се ове функције могу активирати или деактивирати у зависности од случаја употребе.

План је да се функција људске верификације постепено уводи, почевши од корпоративних клијената и сектора са најстрожим безбедносним захтевима . Иако детаљан временски оквир није објављен, индустрија очекује да ће, ако усвајање буде позитивно, ови механизми на крају бити проширени на више врста налога, укључујући и европска тржишта.

Технологија верификације дубоког лица World ID-а

Свет шири свој екосистем за тестирање на људима изван Зума

Интеграција са Зумом није изолован потез, већ део шире стратегије компаније World да прошири свој протокол за људску верификацију World ID на различите области где је аутентичност кључна. Компанија је редизајнирала свој систем да ради на моделу заснованом на налогу, омогућавајући корисницима да поново користе верификацију на више сервиса без потребе да сваки пут почињу од нуле.

Кључне техничке иновације укључују напредне механизме за ротацију и опоравак кључева , подршку за више истовремених сесија на различитим уређајима и употребу једнократних кључева за побољшање приватности. Све ово је подржано приступом отвореног кода, са SDK-ом отвореног кода који програмерима и предузећима олакшава интеграцију протокола у сопствене производе.

У потрошачком сектору, World је покренуо пилот програме са апликацијама за упознавање попут Tinder-а , почевши од Јапана, а затим се проширивши на Сједињене Државе, где се нуди верификована људска значка како би се смањило присуство ботова и лажних профила. На овај начин, иста људска верификација која се користи на Zoom-у може се применити у контекстима различитим од онлајн упознавања до спречавања спама на платформама друштвених медија.

Компанија се такође фокусирала на искуства уживо, као што су концерти и догађаји великих размера. Уз помоћ алата као што је Concert Kit, уметници могу резервисати карте и погодности искључиво за верификоване кориснике , са циљем да минимизирају злоупотребу препродаје и побољшају директне односе са фановима. Ова врста апликације показује како биометријска верификација почиње да превазилази чисто финансијску или корпоративну сферу и да се интегрише у свакодневни дигитални живот.

Безбеднији састанци, дигитални потписи и контрола вештачке интелигенције

У строго пословној сфери, домет компаније World протеже се изван видео позива. Компанија је објавила споразуме са сервисима за електронски потпис као што је DocuSign како би ојачала идентитет потписника у посебно осетљивим процесима. Захваљујући World ID-у, могуће је потврдити да иза потписа стоји стварна особа и повезати одређене радње са верификованим идентитетом – што је неопходно за усклађеност са прописима и ревизије.

Још један отворени фронт је фронт агената вештачке интелигенције који делују у име људи , на пример, да би куповали, управљали резервацијама или извршавали аутоматизоване задатке у пословним системима. Како ови агенти стичу аутономију, расте потреба да се јасно дефинише када је критична одлука заиста прошла кроз људске руке.

Да би се решио овај изазов, World ради на могућностима које уводе концепт „људског учешћа“ у аутоматизоване токове рада. У сарадњи са развојним платформама попут Vercel-а, они укључују обавезне кораке људске верификације у кључним тренуцима , осигуравајући да се свака интервенција евидентира и да се касније може ревидирати.

Свет такође сарађује са решењима за идентитет као што је Окта на развоју производа као што је Хуман Принципал, дизајнираних да провере да ли човек стоји иза агента и његових радњи . Ово би омогућило примену различитих политика у зависности од тога да ли процес укључује чисту аутоматизацију или процесе где је особа експлицитно потврдила сваки корак, смањујући злоупотребу и побољшавајући контролу у услугама са бесплатним или ограниченим плановима.

Узето заједно, савез између Zoom-а и World-а поклапа се са јасним трендом: робусна верификација идентитета као камен темељац дигиталног поверења , како у Европи тако и глобално. Како дипфејкови постају софистициранији, комбинација биометрије, криптографије и сарадње између технолошких компанија појављује се као један од ретких реалних начина за сузбијање превара и очување безбедности у виртуелним интеракцијама, од једноставног видео позива до потписивања уговора вредног више милиона долара.