Quan el núvol està inundat, és Edge Computing, AI al rescat

Al llarg de la costa de l'estat de Nova Gal·les del Sud (NSW) d'Austràlia hi ha una flota de drons que ajuden a mantenir les aigües segures. A principis d'aquest any, els drons van ajudar els socorristes de la costa del nord de l'estat rescatar dos adolescents que estaven lluitant en el surf intens.



Revisió de l'asus r9 390 strix

El drones estan impulsats per algorismes d'intel·ligència artificial (IA) i de visió artificial que analitzen constantment els seus canals de vídeo i destaquen elements que necessiten atenció: per exemple, taurons o nedadors perduts. Aquest és el mateix tipus de tecnologia que permet a Google Fotos ordenar imatges, a càmera de seguretat domèstica per detectar desconeguts, i una nevera intel·ligent per avisar-te quan els teus productes peribles estan a prop de la seva data de caducitat.

Però tot i que aquests serveis i dispositius necessiten una connexió constant al núvol per a les seves funcions d'IA, els drons de NSW poden realitzar les seves tasques de detecció d'imatges amb o sense una connexió a Internet sòlida, gràcies als xips de càlcul neuronal que els permeten realitzar càlculs d'aprenentatge profund localment. .





Aquests xips formen part d'una tendència creixent d'innovacions en informàtica de punta que permeten als nostres dispositius amb programari realitzar almenys algunes funcions crítiques. sense un enllaç constant al núvol . L'auge de la informàtica de punta està ajudant a resoldre problemes antics i nous i obre el camí per a la propera generació de dispositius intel·ligents.

Descarregant el núvol

En les últimes dues dècades, el núvol s'ha convertit en la forma de facto d'allotjament d'aplicacions, amb una bona raó.



'El que fa que el núvol sigui tan atractiu és que tendeix a reduir el cost d'iniciar qualsevol activitat que vulgueu realitzar', diu Rob High, CTO de IBM Watson . 'El núvol... permet a la gent... resoldre problemes reals avui sense haver de patir el cost de la creació d'infraestructures'.

Amb la connectivitat a Internet omnipresent i gairebé innombrables aplicacions al núvol, serveis i plataformes de desenvolupament, les barreres per crear i desplegar aplicacions s'han reduït considerablement. Els grans recursos de proveïdors de núvol com IBM, Google i Amazon han impulsat el desenvolupament no només d'aplicacions comercials trivials, sinó també de programari complex que requereix grans quantitats de càlcul i emmagatzematge: IA i algorismes d'aprenentatge automàtic, així com streaming i AR. aplicacions (realitat augmentada).

Però aquests avenços també han creat un repte: la majoria de les aplicacions que fem servir no poden funcionar tret que estiguin connectades al núvol. Això inclou la majoria de les aplicacions que s'executen en ordinadors i telèfons, així com el programari de neveres, termòstats, panys de portes, càmeres de vigilància, cotxes, drons, sensors meteorològics, etc.

Amb l'arribada de l'Internet de les coses (IoT), un nombre creixent de dispositius executen programari i generen dades, i la majoria d'ells requeriran un enllaç al núvol per emmagatzemar i processar aquestes dades. La quantitat de potència i amplada de banda necessària per enviar aquestes dades al núvol és immensa, i l'espai necessari per emmagatzemar les dades desafiarà els recursos fins i tot dels gegants del núvol més potents.

'Hi ha moltes dades que estem recopilant en aquests sistemes, ja siguin a la vora, o sigui un dispositiu IoT o qualsevol altre lloc, que gairebé podríeu decidir no preocupar-vos', diu High. Però si totes les decisions han de tenir lloc al núvol, totes aquestes dades s'hauran d'enviar a través de la xarxa als servidors del núvol per netejar-les i filtrar-les.

Com a exemple, High anomena avions moderns, que contenen centenars de sensors que controlen els motors a reacció i recullen

Fer el que High suggereix fora del núvol abans era pràcticament impossible, però els avenços en els processadors System-on-Chip (SoC) de baix consum i de baix cost han donat als dispositius de punta més potència de càlcul i els han deixat assumir part de la càrrega computacional del seu ecosistemes, com ara realitzar anàlisis en temps real o filtrar dades.

'Hi ha tantes dades a l'entorn de punta, té sentit incorporar algunes de les capacitats de computació en núvol a la capacitat computacional del dispositiu de punta', diu High.

Preocupacions de privadesa

xip d'IA informàtica de punta

Els avantatges de la informàtica perifèrica no es limiten a alliberar recursos al núvol.

Remi El-Ouazzane, Grup de Noves Tecnologies i Director General de Movidius (Intel), cita les càmeres de seguretat comercials com un altre exemple de quan la informàtica de punta pot marcar una gran diferència. Veus aquestes càmeres als semàfors, als aeroports i a l'entrada dels edificis, enregistrant i reproduint vídeos d'alta qualitat a la xarxa durant tot el dia.

'Com menys dades necessiteu per tornar a un servidor o centre de dades, més neteja i perfeccionament podeu fer localment, millor serà el vostre cost global de propietat des d'una perspectiva d'emmagatzematge i transferència', diu El-Ouazzane.

Això vol dir proporcionar a les càmeres el poder d'analitzar les seves pròpies fonts de vídeo, determinar quins fotogrames o longituds de vídeo requereixen atenció i enviar només aquestes dades al servidor.

Quan aquestes càmeres s'instal·len a casa, a l'oficina o a qualsevol ubicació privada, la connexió al núvol també es converteix en un problema de seguretat potencial. Els pirates informàtics i els investigadors de seguretat han pogut fer-ho comprometre la connexió entre els electrodomèstics i els seus servidors al núvol per interceptar canals de vídeo sensibles. L'anàlisi local de les dades evita la necessitat de disposar d'un canal de vídeo entre la vostra llar, la vostra vida privada i un proveïdor de serveis.

Movidius, que va ser adquirida per Intel el 2016, és una de les diverses startups que fan xips d'ordinador especialitzats per a tasques d'IA com el reconeixement de veu i la visió per ordinador. L'empresa fabrica unitats de processament de visió (VPU): processadors de baixa potència que funcionen amb xarxes neuronals que analitzen i 'entenen' el context de les imatges digitals sense necessitat de tornar-les al núvol.

Xip movidius de computació de punta AI

El Movidius Myriad 2 és un processador de visió sempre en funcionament creat per a entorns amb potència limitada.

'Quan la càmera entén la semàntica del que mira, la capacitat d'imposar regles sobre què pot fer o no pot fer la càmera s'està convertint en una tasca molt fàcil', diu El-Ouazzane. 'No cal que captureu la vostra sala d'estar durant les properes 12 hores només per saber que, en un moment determinat, el vostre gos va creuar la catifa davant del sofà'.

Altres empreses estan explorant l'ús de la informàtica de punta especialitzada amb intel·ligència artificial per preservar la privadesa dels usuaris. L'Apple iPhone X (799,00 dòlars a Currys), per exemple, funciona amb el xip A11 Bionic, que pot executar tasques d'IA localment , que li permet realitzar un reconeixement facial complicat sense enviar la foto de l'usuari al núvol.

Més processament d'IA a la vora pot obrir el camí intel·ligència artificial descentralitzada , on els usuaris han de compartir menys dades amb grans empreses per utilitzar aplicacions d'IA.

Reduint la latència

Un altre problema amb els grans proveïdors de núvol és que els seus centres de dades es troben fora de les grans ciutats, col·locant-los a centenars i milers de quilòmetres de distància de les persones i dispositius que utilitzen les seves aplicacions.

En molts casos, la latència causada per les dades que viatgen cap a i des del núvol pot produir un rendiment deficient o, pitjor, resultats fatals. Pot ser un dron que intenta evitar col·lisions o aterrar en un terreny irregular, o un cotxe autònom que intenta decidir si s'està tocant amb un obstacle o amb un vianant .

La implementació lleugera de Movidius de xarxes neuronals profundes i visió per ordinador fa que els seus xips siguin adequats per a dispositius de punta mòbil com drons, per als quals no és factible el maquinari que consumeix energia, com ara les GPU. Els drons són un estudi especialment interessant, perquè necessiten un accés de baixa latència a la computació d'IA i han de continuar funcionant en configuracions fora de línia.

Xip movidius de computació de punta AI

La detecció de gestos com una altra àrea on la informàtica de punta està ajudant a millorar l'experiència del drone. 'L'objectiu és que els drons siguin accessibles per a moltes persones, i el gest sembla ser una bona manera perquè la gent els faci servir. La latència importa quan fas un gest amb el drone per realitzar alguna tasca', diu El-Ouazzane.

Per a startups com ara Skylift Global , que ofereix serveis de drons pesats per rescatar els treballadors i els primers responsables, l'accés de baixa latència a la IA i els recursos informàtics poden estalviar diners i vides. 'Reduirà significativament els costos d'ingestió de dades, reduirà la latència de la xarxa, augmentarà la seguretat i ajudarà a convertir les dades en streaming en decisions en temps real', diu Amir Emadi, CEO i fundador de Skylift.

Lliurar subministraments als primers responsables requereix decisions en una fracció de segon. 'Com més temps passa, per exemple per lluitar contra un incendi forestal, més costà es posarà remei a la situació. A mesura que els nostres drons siguin capaços de prendre decisions en temps real a la vora fins i tot quan perdin connectivitat, podrem estalviar més vides, diners i temps', diu Emadi.

Altres dominis que necessiten un càlcul gairebé en temps real són les aplicacions de realitat augmentada i virtual i els vehicles autònoms. 'Tots aquests són entorns informàtics basats en l'experiència. Passaran al voltant de la gent', diu Zachary Smith, director general de Paquet , una startup amb seu a Nova York centrada a permetre als desenvolupadors accedir a maquinari altament distribuït.

Una aplicació de RA o VR que no pot seguir els moviments de l'usuari causarà marejos o impedirà que l'experiència esdevingui immersiva i real. I la latència serà encara més un problema quan els cotxes autònoms, que depenen molt de la visió per ordinador i els algorismes d'aprenentatge automàtic, esdevinguin corrents.

'Una latència de 30 mil·lisegons no importarà per carregar la vostra pàgina web, però realment importarà que un cotxe determini a 60 mph si ha de girar a l'esquerra o a la dreta per evitar xocar amb una nena', diu Smith.

Afrontant els reptes de la vora

Malgrat la necessitat d'apropar la informàtica a la vora, pot ser que posar maquinari especialitzat a tots els dispositius no sigui la resposta final, reconeix Smith. 'Per què no poseu tots els ordinadors al cotxe? Crec que realment té a veure amb l'evolució de la rapidesa amb què pots controlar el cicle de vida d'això', diu.

'Quan poses el maquinari al món, normalment es manté entre cinc i deu anys', diu Smith, mentre que la tecnologia que impulsa aquests casos d'ús basats en l'experiència evoluciona cada sis o 12 mesos.

Recomanat pels nostres editors

Les TI han de començar a pensar en 5G i Edge Cloud ComputingLes TI han de començar a pensar en 5G i Edge Cloud Computing

Fins i tot les empreses molt grans amb cadenes de subministrament complicades sovint tenen problemes per actualitzar el seu maquinari. El 2015, Fiat Chrysler va haver de retirar 1,4 milions de vehicles per solucionar una vulnerabilitat de seguretat que es va exposar cinc anys abans. I el fabricant de xips gegant Intel encara està lluitant per fer front a un defecte de disseny que exposa centenars de milions de dispositius als pirates informàtics.

El-Ouazzane de Movidius reconeix aquests reptes. 'Sabem que cada any haurem de canviar una gamma de productes, perquè cada any aportarem més intel·ligència a la vora i demanarem als nostres clients que actualitzin', diu.

Per evitar retirades constants i permetre que els clients facin un ús a llarg termini del seu maquinari de punta, Movidius equipa els seus processadors amb recursos i capacitat addicionals. 'Necessitem la capacitat durant els propers anys per realitzar actualitzacions d'aquests productes', diu El-Ouazzane.

Packet, l'empresa de Smith, utilitza un enfocament diferent: crea micro centres de dades que es poden desplegar a les ciutats, més a prop dels usuaris. Aleshores, l'empresa pot proporcionar als desenvolupadors recursos computacionals de latència molt baixa, tan a prop com puguis arribar als usuaris sense posar el maquinari real al límit.

'La nostra creença és que caldrà un mecanisme de lliurament d'infraestructures per posar maquinari al qual els desenvolupadors puguin accedir a totes les ciutats del món', diu Smith. La companyia ja opera en 15 ubicacions i té previst expandir-se a centenars de ciutats.

Però les ambicions de Packet van més enllà de crear versions en miniatura de les instal·lacions en expansió gestionades per Google i Amazon. Tal com explica Smith, desplegar i actualitzar maquinari especialitzat no és factible amb el núvol públic. En el model de negoci de Packet, els fabricants i desenvolupadors despleguen maquinari especialitzat als centres de dades de punta de l'empresa, on poden actualitzar-lo i actualitzar-lo ràpidament quan sorgeixi la necessitat, alhora que s'asseguren que els seus usuaris tinguin un accés molt ràpid als recursos informàtics.

Escotilla , un dels clients de Packet, és un spin-off de Rovio, l'empresa de jocs mòbils que va crear Angry Birds. La companyia utilitza Android en servidors informàtics de punta per oferir serveis de reproducció de jocs multijugador de baixa latència als usuaris amb dispositius Android de gamma baixa.

'[Hatch] necessita servidors ARM força especialitzats en tots aquests mercats d'arreu del món', diu Smith. 'Tenen configuracions personalitzades de la nostra oferta de servidors i la posem a vuit mercats globals d'Europa, i aviat seran 20 o 25 mercats. Se sent com Amazon per a ells, però arriben a executar maquinari personalitzat a tots els mercats d'Europa.

Teòricament, Hatch podria fer el mateix al núvol públic, però els costos el convertirien en un negoci ineficient. 'La diferència està entre posar 100 usuaris per CPU en comparació amb 10.000 usuaris per CPU', diu Smith.

Smith creu que aquest model agradarà a la generació de desenvolupadors que impulsarà les properes innovacions de programari. 'En el que estem centrats és com connectar la generació de programari, persones que van créixer al núvol, amb primitives de maquinari especialitzats', diu Smith. 'Estem parlant d'usuaris que ni tan sols poden obrir el seu MacBook per mirar dins, i aquesta és la persona que innovarà en la pila de maquinari/programari'.

Es dissiparan els núvols?

Amb els dispositius de punta que són capaços de realitzar tasques computacionals complicades, el futur del núvol està en perill?

'Per a mi, l'edge computing és una propera progressió natural i lògica de la computació en núvol', diu IBM Watson's High.

De fet, el 2016, IBM va llançar un conjunt d'eines que permeten als desenvolupadors sense problemes distribuïu les tasques entre la vora i el núvol , especialment als ecosistemes IoT, on els dispositius de punta ja recullen moltes dades sobre el seu entorn immediat. I a finals de 2016, Amazon Web Services, una altra plataforma important de desenvolupament al núvol, va anunciar Greengrass , un servei que permet als desenvolupadors d'IoT executar parts de les seves aplicacions al núvol als seus dispositius de punta.

Res d'això vol dir que el núvol desaparegui. 'Hi ha moltes coses que es fan millor al núvol, fins i tot quan encara s'està fent molta feina a la vora', diu High. Això inclou tasques com ara agregar dades de moltes fonts diferents i fer anàlisis a gran escala amb grans conjunts de dades.

'Si necessitem crear models en els algorismes d'IA que utilitzem en aquests dispositius de punta, crear i entrenar aquests models encara és un problema de càlcul intensiu i, sovint, requereix una capacitat computacional que supera amb escreix la que hi ha disponible en aquests dispositius de punta', diu.

El-Ouzzane està d'acord. 'La capacitat d'entrenar models d'IA a nivell local és extremadament limitada', diu. 'Des del punt de vista de l'aprenentatge profund, la formació només té un lloc on seure, i és al núvol, on obteniu prou recursos informàtics i suficient emmagatzematge per poder fer front a grans conjunts de dades'.

El-Ouazzane també proporciona casos d'ús en què els dispositius de punta s'assignen amb tasques crítiques per a la missió i el temps, mentre que el núvol s'encarrega de la inferència més avançada que no depèn de la latència. 'Vivim en un món de continuïtat entre el núvol i la vora'.

'Hi ha una relació molt simbiòtica i sinèrgica entre la informàtica de punta i la informàtica en núvol', diu High.

Recomanat