La IA fa del món un lloc més estrany, i això està bé

La intel·ligència artificial pot fer coses sorprenents, però no és perfecta. La científica investigadora Dra. Janelle Shane ha estat catalogant 'les maneres de vegades divertides, de vegades inquietants en què els algorismes fan les coses malament' al seu lloc web, AI estranyesa , i aprofundeix en el tema al seu nou llibre, publicat aquesta setmana.



Una vegada i una altra, les xarxes neuronals de la doctora Shane ingereixen les dades que els llança i escopen coses estranyes, des de receptes no comestibles (brownies de rave picant, algú?) fins a noms estranys de gats i colors de pintura de l'infern.

A primera vista, el llibre del Dr. Shane... Sembles una cosa i t'estimo: com funciona la IA i per què fa que el món sigui un lloc més estrany —Sembla una mirada alegre i millorada amb dibuixos animats a la IA, però hi ha algunes lliçons sobre les vulnerabilitats humanes. Hem parlat amb la Dra. Shane per saber per què va escriure el llibre i què espera que n'aprenguem.





Dr. Shane, pots explicar la teva feina diària a Boulder Nonlinear Systems, on fas hologrames controlats per ordinador per estudiar el cervell i els dispositius fotònics (direcció de la llum)?
Segur! Treballo com a investigador científic en una petita empresa que desenvolupa noves maneres de dirigir la llum. Em poso a treballar en un munt d'àmbits diferents, perquè hi ha moltes aplicacions. Estudiar el cervell és molt important: hi ha científics que utilitzen els nostres hologrames programables per estudiar la manera com es connecten les neurones al cervell d'un ratolí.

Això sona estrany i meravellós en si mateix. Quin és el projecte més estrany en què has treballat mai?
Un dels projectes més estranys en els quals vaig treballar va ser el desenvolupament d'un camp de realitat virtual per a gambes mantis.



La ment s'entorpega. D'acord, ara explica'ns la història d'escriure aquest llibre.
Cada vegada ens ocupem de la intel·ligència artificial a la nostra vida diària: algorismes que determinen quins anuncis veiem o qui rep un préstec, fins a sistemes totalment o parcialment impulsats per humans que encara es venen com a 'IA'. Volia crear una manera divertida i accessible perquè la gent aprengués sobre la IA, perquè gairebé tothom necessitarà conèixer els conceptes bàsics.

cable hdmi del telèfon a la televisió

Dra Janelle Shane

(Dra Janelle Shane)

razer deathadder v2 pro sense fil

Com va sorgir aquest títol?
El títol prové d'una xarxa neuronal que vaig formar en una col·lecció de línies de recollida existents. No acabava d'aconseguir la cursi i les insinuacions dels originals. En la meva opinió, Sembles una cosa i t'estimo és millor que tots!

En efecte. Amb una nota seriosa, al llibre dius: 'A mesura que més de la nostra vida diària es regeix per algorismes, les peculiaritats de la IA comencen a tenir conseqüències'. Ens estàs fent una trucada d'atenció?
Crec que ja estem començant a adonar-nos del perjudicial que pot ser un algorisme esbiaixat: com pot negar a la gent la llibertat condicional o l'assistència sanitària o una entrevista, només copiant sense saber-ho els biaixos que veu en el comportament humà. La gent ja està desafiant alguns d'aquests algorismes esbiaixats a la cort i guanyant. M'agradaria veure no només el biaix, sinó també el Per què del biaix esdevenen de coneixement comú. Altres peculiaritats de la IA també poden ser perjudicials, i posar massa confiança en la intel·ligència de la IA sovint n'és l'arrel.

Quan entrevistant La Dra. Yolanda Gil, presidenta de l'Associació per a l'Avenç de la IA, va parlar de la necessitat de l'ètica en el camp. Però aneu més enllà, argumentant que qualsevol IA de caixa negra és un problema si no podem veure com ha arribat a les seves conclusions.
Crec que l'ètica en IA ha d'incloure cert reconeixement que les IA generalment no ens diuen quan han arribat a les seves respostes mitjançant mètodes problemàtics. Normalment, tot el que veiem és la decisió final, i algunes persones han tingut la temptació de prendre la decisió com a imparcial només perquè hi havia una màquina involucrada. Crec que l'ús ètic de la IA haurà d'implicar l'examen de les decisions de la IA. Si no podem mirar dins de la caixa negra, almenys podem fer estadístiques sobre les decisions de la IA i buscar problemes sistemàtics o errors estranys.

Com funciona la IA i per què està fent del món un lloc més estrany, Dra. Janelle Shane

Com podem fer això?
Hi ha alguns investigadors que ja prenen decisions sobre alguns algorismes d'alt perfil, però les persones que construeixen aquests algorismes tenen la responsabilitat de fer una mica de diligència deguda en el seu propi treball. Això a més de ser més ètic sobre si s'ha de construir un algorisme en particular. Si els algorismes de reconeixement facial solen utilitzar-se contra les minories i els algorismes de reconeixement d'emocions tendeixen a deixar de banda persones que no són neurotípiques, hauríem de construir-los?

Bon punt. Com heu il·lustrat, algunes IA, especialment GAN, on les IA 'competeixen' entre elles, poden produir treballs altament creatius, especialment a les terres màgiques de la moda i el disseny, però no volem coses estranyes en ciberseguretat, oi?
Ha, sí, hi ha aplicacions on volem un comportament estrany i no humà. I després hi ha aplicacions on realment preferim evitar les estranyes. Malauradament, quan utilitzeu algorismes d'aprenentatge automàtic, on no els expliqueu exactament com resoldre un problema en particular, pot haver-hi peculiaritats estranyes enterrades a les estratègies que trien. Els investigadors han demostrat que injectant només uns quants exemples escollits amb cura a les bases de dades públiques de programari maliciós, posteriorment poden dissenyar programari maliciós que superi els detectors de programari maliciós basats en IA entrenats en aquestes bases de dades. No hem vist cap exemple real d'aquest tipus d'atacs adversaris, però la gent està preocupada per ells.

La Dra. Aleksandra Faust, de la divisió de Google Robotics/AI, ens va dir sobre les dificultats d'ensenyar als robots a navegar pels entorns. Tens un gran exemple al llibre sobre una IA que 'esbrina' com aconseguir un 'cos' del punt A al B.
Si l'IA pot dissenyar el pla del cos que li agradi, tendeix a convertir-se en una torre alta i a caure, i així aterrar al punt B. M'encanta aquest exemple perquè ha aparegut una i altra vegada, des que la gent ha estat treballant. Robots controlats per IA. És molt més fàcil caure que aprendre a caminar.

Com assenyaleu al llibre, la IA també té un problema de memòria.
En general, les IA tenen més facilitat amb les aplicacions on no necessiten molta memòria. Tinc molts exemples de xarxes neuronals que generen text que només tenen records que es remunten a una o dues frases, o fins i tot unes poques paraules. Un d'ells, format en diaris onírics, té la incoherència d'un somni en si mateix, canviant escenaris i personatges i escenaris fins i tot a mitja frase. Darrerament, algunes grans xarxes neuronals noves han tingut noves maneres de fer un seguiment de la informació de fa molt de temps i això ha millorat una mica. Tot i així, una història escrita en xarxa neuronal tendeix a perdre la noció de la trama amb força rapidesa.

Recomanat pels nostres editors

Per què hem d'apuntar a la IA a nivell humà (La IA és difícil però val la pena la inversió Per això les empreses d'IA han d'escoltar les vostres gravacions de veu Aquesta és la teva empremta digital o una falsificació? Aquesta IA pot dir-ho

La tragèdia de Tesla del març del 2018, quan un conductor va morir perquè el seu cotxe no registrava un camió de plataforma al davant, s'ha cobert molt. I dius que probablement l'autonomia total no es produirà mai, oi? Hi ha massa variables?
És molt més fàcil fer una IA que segueixi les carreteres i obeeixi les normes de trànsit que fer una IA que eviti errors estranys. És exactament aquest problema: que hi ha tanta varietat al món real i tantes coses estranyes que passen, que les IA no poden haver-ho vist tot durant l'entrenament. Els humans són relativament bons utilitzant el seu coneixement del món per adaptar-se a noves circumstàncies, però les IA són molt més limitades i solen ser terribles. D'altra banda, les IA són molt millors per conduir de manera coherent que els humans. Hi haurà algun moment en què la coherència de la IA superi els estranys errors i les nostres companyies d'assegurances ens començaran a incentivar a utilitzar cotxes autònoms? O la idea dels errors serà massa espantosa? No estic segur.

hp laserjet 200 color m251nw

En una nota més positiva, destaqueu la IA coneguda com Quicksilver , que està corregint l'equilibri de gènere a la Viquipèdia automatitzant les entrades per a científics que no són homes cisgènere. Tens altres exemples d'IA 'bona'?
He parlat amb traductors i transcriptors d'àudio que utilitzen eines d'IA com a primer esborrany. Igual que els articles de Quicksilver, el producte encara necessita edició humana, però estalvia molt de temps. Una altra àrea que m'agrada molt és l'ús creatiu de la IA, inclosos els artistes i els músics que utilitzen la generació i el filtratge d'IA com a eina creativa. Tinc moltes ganes de Robin Sloan propera novel·la , en què genera frases i passatges estranys i evocadors mitjançant una xarxa neuronal entrenada a mida i generadora de text.

Història de fons ràpida: vas fer el teu doctorat en fotònica a la Universitat de Califòrnia, San Diego, després d'un màster a Escòcia, i un grau en enginyeria elèctrica a la Universitat Estatal de Michigan. Com vas entrar en aquest camp en primer lloc?
Em vaig trobar per primera vegada amb l'aprenentatge automàtic a l'estat de Michigan, on vaig assistir a una conferència fascinant del professor Erik Goodman sobre el seu treball sobre algorismes evolutius. Va explicar alguns dels mateixos tipus d'històries que faig al meu llibre: d'algoritmes que malinterpreten les seves tasques de manera divertida o que arriben a solucions inesperades (i de vegades inexplicables). Vaig començar treballant en algorismes evolutius abans de passar gradualment a l'òptica, però sempre els he trobat fascinants.

Finalment, assenyaleu: 'com més limitada és la seva tasca, més intel·ligent sembla una IA'. El vostre argument és que la IA només s'ha d'utilitzar per a tasques molt específiques amb límits clars, o que realment només funciona bé amb la supervisió humana, sinó més com a IA o augment de la intel·ligència humana?
Crec que hi ha un lloc per als dos tipus d'IA. Hem vist que la intel·ligència artificial funciona increïblement bé en tasques estretes i molt limitades, com ara jugar a escacs o Go . En altres aplicacions, la IA pot ser molt útil encara que no sigui perfecta, com ara filtrar correu brossa o etiquetar fotos. Quan hem d'evitar els errors, i sobretot si hi ha potencial de dany, encara necessitem la supervisió humana. Fins i tot si creiem que una tasca és prou limitada per a la IA, necessitem un humà per comprovar que la IA realment ho va fer bé. Els humans fem tasques àmplies i difícils de manera tan irreflexiva que tendim a ser terribles jutges de la dura que és una tasca, fins que construïm una IA per fer-la i falla inesperadament.

Sembles una cosa i t'estimo: com funciona la IA i per què fa que el món sigui un lloc més estrany surt el 5 de novembre.

Recomanat