El gran germà treu el cap a Barcelona

Per Oriol Mestres

La tecnologia del reconeixement facial ja és una realitat consolidada i que sembla però quedar encara lluny del nostre dia a dia dins l’àmbit públic. Darrerament, Barcelona va estar al punt de mira en presentar un pressupost per la renovació de les càmeres de ciutat vella i des de l’Ajuntament es va sortir a desmentir que aquestes càmeres tinguessin aquesta tecnologia. És però l’arribada del ‘’gran germà’’ un fet inevitable?

El que popularment es denomina en aquest context com a gran germà és aquell sistema que a través del reconeixement facial i la implementació d’Intel·ligència Artificial és capaç de generar un control de manera autònoma sobre la ciutadania. La font bàsica que nodreix aquest sistema és una extensió de grans dimensions d’una infraestructura de càmeres amb la capacitat de detectar els subjectes gràcies als seus atributs facials. El que permet això és tenir el control no només de qui i com es mou, sinó de crear patrons de comportament, identificar els subjectes allà on aquestes càmeres hi tinguin abast, establir alarmes en cas de detecció de malts comportaments o la identificació tant de possibles actes criminals com dels criminals en si.

Vist així pot semblar al dia d’avui que aquesta tecnologia encara resideix en un imaginari d’un escriptor de ciència-ficció i es presenta com un escenari que esgarrifaria al mateix Orwell, ja que l’Estat té unes condicions de control sobre els seus ciutadans d’una manera continua i pràcticament autònoma sense precedents històrics.

Aquest sistema és però una realitat en constant construcció a dia d’avui. El sistema SESAME és com es denomina aquest dogma que té com a objectiu superar els 400 milions de càmeres desplegades per tot el territori Xinés. L’objectiu d’aquest programa existent des del 2014 té com a principi permetre la capacitat dels governants d’establir un sistema de punts pels ciutadans que valoren la seva honestedat, confiança, lleialtat i civisme. Si més no, aquesta és la versió oficial divulgada per aquest programa. Sobre el paper, el control extrem de la ciutadania permet aïllar els comportaments que puguin anar en contra dels individus en pro de la seva seguretat i en favor del premi al bon comportament. El sistema basa el funcionament en que els ciutadans disposen de 1000 punts que augmenten o disminueixen segons el seu comportament, diferenciant aquells que són ‘’fiables’’ i que per tant poden rebre incentius pel seu comportament, d’aquells que són ‘’indignes de confiança’’ els quals es sancionen i se’ls dificulta de cara a tràmits administratius.

Arribats a aquest punt, la implementació d’Intel·ligència Artificial a aquestes escales d’intrusió a la vida dels ciutadans ja planteja un escenari que xoca d’una forma directe amb la concepció del model de vida que tenim i posa en alerta la introducció d’aquesta tecnologia al nostre dia a dia.

Sorprenentment, a posterior de la confirmació de que aquestes noves càmeres no disposen de d’aquest tipus de tecnologia, semblava que plantegés un escenari primer de refús d’aquestes eines per part de Barcelona i segon d’una pressuposició de que aquestes tecnologies no són existents a casa nostre. Aquesta segona afirmació és totalment falç, ja que a dia d’avui la tecnologia és present tant al vell com al nou continent i no ha arribat sense polèmica, comandat per les grans empreses i sense exempció de polèmica, essent refusada per més de 85 grups de drets humans. Un exemple de on es troben aquestes tecnologies és a l’Estació d’Autobusos Sud de Madrid i ja s’estudia col·locar-se als grans estadis de futbol i a les principals estacions i aeroports de gran afluència. En aquests espais, la introducció d’aquesta tecnologia es justifica en que són llocs de pas on hi han molts furts relacionats amb crims de petita escala com el robatori de carteres o altres robatoris d’aquestes característiques. El cas de l’estació d’autobusos de Madrid però, ens val per dues raons.

Primer perquè crea un precedent d’utilització d’aquestes tecnologies en el nostre context social, i segon perquè estableix que al ja ser-hi present, aquesta pot proliferar. Segurament, si es planteja un escenari on un infant es perd dins una gran multitud i gràcies a la utilització de les càmeres de reconeixement facial no només es pot detectar on és en temps real, sinó que es pot donar una resposta emesa al moment perquè d’una manera efectiva es pugui posar en marxa una dispositiu, podria definir- se com una tecnologia que pot tenir un impacte positiu. Aquesta afirmació és una realitat. Si apel·lem més també a una situació on és fàcil tenir-hi un posicionament, es podria presentar una escena on un terrorista pot ser detectat per les càmeres i posat a disposició de la justícia.

És aquí on entra el gran problema de fons. Qui és un terrorista? On comencen i acaben aquests límits? O el que és més important, qui defineix què és una acció terrorista com a tal? Aquest debat no fa tant va estar posat sobre l’agenda diària, prenent definicions molt extenses i difuses que feien que la categorització de terrorista és fes amb certa lleugeresa, fet que podria provocar la persecució d’aquell que ho és, per definició, i que per tant es localitzés de forma molt més fàcil. Aquest fet permetria que un determinat govern, apel·lant a la definició de qui és un terrorista i utilitzant aquest tipus de tecnologies, pogués portar a la localització i detenció d’aquest subjectes d’una manera molt més ràpida que l’actual. Tot l’esmentat anteriorment tant sols és un exemple de les moltes situacions que poden sorgir a partir de la utilització d’aquestes tecnologies.

El problema però, no recau en l’ús en si, fet que pràcticament podríem catalogar com a inevitable ja que l’acceleració d’aquestes eines creix de maneres exponencials. On recau el problema és en la falta de debat, en la introducció d’aquestes eines de puntetes i de manera opaca respecte el ciutadà. Debatem al congrés sobre l’avortament al mateix temps que pràcticament podem clonar. El debat parlamentari sembla anar a un altre ritme que l’avenç tecnològic, provocant un dèficit d’actuacions i de debats a la ciutadania provocant que arribin tard i malament.

La utilització doncs d’aquestes eines presenta aspectes tant positius com negatius, i la confiança o desconfiança per la utilització o no d’aquestes eines depèn de les exigències polítiques que en fem respecte d’elles i la voluntat d’aquests per actuar de forma proactiva o passiva davant la seva entrada. El gran germà sembla que poc a poc treu el cap per entrar a les nostres vides, i sense un debat acurat, sense unes eines de formació per part dels ciutadans, sense una capacitat real de decidir sobre la utilització o no d’aquestes eines als espais públics i en ultima instància, sense el coneixement de la seva existència, el resultat pot ser un viatge al futur cap a l’any 1984 digital.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s