Autònoms autòmats (I)
Es diu que Steve Jobs va somiar un iCar. Avui els cotxes robotitzats són una realitat. Audi, BMW, Ford, GM, Honda, Mercedes-Benz, Nissan, Volkswagen, etc. han desenvolupat prototips amb un grau sorprenent d'autoassistència. Alguns els anomenen robots i altres, cotxes automàtics.
Els defensors d'aquests vehicles asseguren que són més segurs que els cotxes conduïts per humans i, per tant, que salvaran moltes vides. Als Estats Units se suposa que reduirien a la meitat els 32.000 accidents de circulació mortals anuals. Això està molt bé. Però és significatiu que fins i tot els publicistes dels cotxes robot pensin que no podrien evitar 16.000 accidents mortals. “Encara no”, diuen els optimistes. Però a mesura que la capacitat d'escanejar l'entorn i de processar múltiples variables es vagi afinant, serà més segur anar adormit per una carretera per la qual només circulin cotxes automàtics.
Jo, que no sóc especialment optimista amb la condició humana, dubto de la nostra capacitat per desenvolupar tecnologies infal·libles. El món en què ens movem és extraordinàriament complex. De fet, no fem servir els cotxes solament per anar d'un lloc a un altre. També ens agraden, per exemple, com a pròtesis tecnològiques dels nostres egos. I ja he dit alguna vegada per aquí que l'òrgan més erèctil de l'home és l'ego. Encara que aconseguíssim eliminar els errors de programari, sempre quedarien els imprevistos a les carreteres, com obstacles insospitats, i, per descomptat, els errors humans associats a l'afany d'ostentació. Els accidents passen. Estem tan exposats a la bona i la mala sort que, amb freqüència, això que anomenem una vida d'èxit no mostra sinó la capacitat d'algú per apropiar-se de la seva bona sort. Amb el desenvolupament de la tecnologia tindria més capacitat d’apropiació qui es pogués comprar el cotxe amb el millor 'crash-optimization programming'.
Com més autònom sigui un vehicle, més responsabilitat recaurà sobre el seu dissenyador. Podríem dir que el conductor, en inhibir-se del procés de conducció, està transferint part de la seva responsabilitat al fabricant. Però com que el fabricant d'un cotxe no és cap persona en concret, la responsabilitat personal es dilueix en la corporativa. Aquest és un dels signes del nostre temps. A mesura que les tecnologies es fan més sofisticades, menys evident és la responsabilitat de l’usuari.
Els programadors de cotxes automàtics es veuen en la necessitat d'introduir al seu programari el que podríem anomenar, una mica lliurement, “seqüències morals”. I en el moment que topem amb la moralitat, topem també amb els dilemes.
Avui els enginyers comencen a treballar colze amb colze amb filòsofs. Intento seguir de prop Patrick Lin –editor de 'Robot Ethics' i director de l’Ethics + Emerging Sciences Group de la Universitat Politècnica Estatal de San Luis Obispo, a Califòrnia– i Wender Wallach –autor d’'A Dangerous Màster' i coautor de 'Moral Machines', que treballa a l’Interdisciplinary Center for Bioethics de la Universitat de Yale i a l'Institute for Ethics & Emerging Technology–. He descobert així que expressions com “ètica computacional” o “moralitat artificial” ja formen part del vocabulari de molts laboratoris tecnològics.
Vegem alguns dilemes als quals s'enfronten els “enginyers morals”.
En una carretera estreta, el nostre cotxe robòtic detecta un xoc imminent contra un cotxe no robotitzat, per exemple un autobús escolar. El nostre cotxe farà tots els possibles per evitar-ho. ¿Acceptarem que una de les seves alternatives sigui llançar-nos per un penya-segat? ¿Permetrem que sigui ell qui triï entre xocar amb l'autobús o atropellar dos vianants? ¿I si un dels vianants és la nostra filla? ¿I si ens trobem amb un gamberro que, sabent que el nostre cotxe està programat per evitar accidents, intenta xocar contra nosaltres?
Noah Goodall, un investigador al Virginia Center for Transportation Innovation and Research, ens planteja aquest altre dilema: Imagina que un cotxe autònom, per evitar atropellar un grup de joves, ha d’optar entre dirigir-se contra un ciclista amb casc o un ciclista sense casc. Quina seria l'opció més correcta moralment? Sembla que qui porta casc té més probabilitats de sobreviure a un accident, però si el triéssim, ens trobaríem amb la paradoxa que com més protegit surt algú a la carretera, més exposat està a ser la víctima potencial d'un robot. Estaríem penalitzant, llavors, la responsabilitat. Hauríem de permetre, per evitar aquest dilema, que el cotxe esculli la víctima a l'atzar?
