CIO se snaží rozšířit tým vytvořením digitálních klonů svých zaměstnanců

CIO UC San Diego chce využít AI agentů a digitálních dvojčat k automatizaci IT práce, zlepšení kybernetické bezpečnosti a ulehčení zátěže zaměstnanců.

Během tohoto týdne na konferenci Cisco Live navrhl Dr. Vince Kellen využití AI agentů a digitálních dvojníků zkušených IT pracovníků pro zvládání opakovaných úkolů a nočních pohotovostí, jak jako první uvedl The Register.

Před zaplněným sálem Kellen řekl: „Všechny cesty vedou k vysoké úrovni automatizace, kdykoliv to jen je možné,“ informuje The Register.

Univerzita funguje jako malé město, protože každý den přivítá více než 100 000 lidí, zatímco se musí vypořádat s poklesem počtu studentů a omezenými finančními zdroji

Kellen předpovídá, že AI systémy získají znalosti od technických pracovníků, aby zvládly rostoucí požadavky v budoucnosti. „Máme veškeré tyto znalosti v lidech ohledně síťové politiky, které musíme z jejich mysli získat jakýmsi způsobem kapkové zavlažování,“ řekl, jak uvádí The Register.

Kellen věří, že pomalý přenos těchto znalostí na AI by umožnil IT týmům snížit svou pracovní zátěž a zlepšit výkon sítě.

Institut oceánografie na UCSD čelí také hrozbám národní bezpečnosti. „Když do vody umístíte sonar, objevíte více než jen ryby a ostatní země se o to chtějí dozvědět,“ varoval, jak informoval The Register.

Kybernetické útoky podporované zahraničím se stávají sofistikovanějšími, což vyžaduje, aby personál automatizoval základní obrany, aby se mohl zaměřit na nebezpečnější hrozby.

Kellen věří, že AI „má potenciál umožnit proaktivní detekci problémů“ a vidí digitální klony jako způsob, jak zachovat odborné znalosti zaměstnanců, zatímco jim ulehčují jejich břemeno. „Potom ta osoba nemusí být mučena, když dojde k dalšímu incidentu. Příště už nebudou voláni,“ dodal, jak bylo hlášeno v The Register.

Jeho nápad vyvolává provokativní otázku: Dovolili byste svému zaměstnavateli digitálně klonovat vaše odborné znalosti, pokud by to znamenalo méně stresujících výjezdů? Jak automatizace roste, může se rozmazat hranice mezi lidskou a strojovou prací, ale pro IT týmy by to mohlo znamenat velmi potřebnou úlevu.

Nicméně, zvýšená automatizace také vyvolává obavy z kybernetické bezpečnosti. Systémy řízené automatizovanými IT pracovníky a AI agenty představují pro hackery atraktivní cíle, protože útok na tyto systémy by mohl vést k rozsáhlým narušením.

Skutečně, kompromitovaný digitální dvojník by mohl být použit k obejití bezpečnostních protokolů a šíření škodlivého softwaru rychlejším tempem než lidský operátor.

Zpráva zpráva Světového ekonomického fóra argumentuje, že útočníci mohou kontaminovat tréninková data umělé inteligence nebo odhalit zranitelnosti v modelech umělé inteligence, což vede k selhání systémů nebo generování nesprávných výstupů.

Tyto útoky „otravou dat“ a zneužitím modelů jsou často snadno proveditelné, ale obtížně se jim brání, protože současná bezpečnostní opatření jsou nedostatečná, jak poznamenává ITPro.

Přestože existují tyto rizika, 96 % odborníků v oblasti IT považuje AI agenty za bezpečnostní hrozbu, přesto většina organizací spěchá s jejich implementací bez řádných kontrol nebo politik, jak uvádí ZDNet.