Soy un estudioso del genocidio. Cuando veo uno lo reconozco




Mi conclusión ineludible ha llegado a ser que Israel está cometiendo un genocidio contra el pueblo palestino. Llevo un cuarto de siglo dando clases sobre el genocidio. Sé reconocer uno cuando lo veo.


Omer Bartov


Un mes después del ataque de Hamás contra Israel el 7 de octubre de 2023, pensé que había evidencias de que el ejército israelí había cometido crímenes de guerra y potencialmente crímenes contra la humanidad en su contraataque en Gaza. Pero, contrariamente a los reclamos de los críticos más acérrimos de Israel, no me parecía que las evidencias se elevaran al crimen de genocidio.

Para mayo de 2024, las Fuerzas de Defensa de Israel (FDI) habían ordenado a cerca de un millón de palestinos refugiados en Rafah —la ciudad más al sur y la última que quedaba relativamente indemne en la Franja de Gaza— que se trasladaran a la zona de playa de Al-Mawasi, donde apenas había refugio. El ejército procedió entonces a destruir gran parte de Rafah, y lo logró en su mayor parte en agosto.

En ese momento ya no parecía posible negar que el método de las operaciones de las FDI era coherente con las declaraciones que denotaban una intención genocida realizadas por los dirigentes israelíes en los días posteriores al ataque de Hamás. El primer ministro de Israel, Benjamín Netanyahu, había prometido que el enemigo pagaría un “precio enorme” por el ataque y que las FDI convertirían partes de Gaza, donde operaba Hamás, “en escombros”, y pidió a “los residentes de Gaza” que “se fueran ahora porque operaremos con fuerza en todas partes”.

Netanyahu había instado a sus ciudadanos a recordar “lo que Amalec hizo contigo”, una cita que muchos interpretaron como una referencia a la exigencia de un pasaje bíblico que pedía a los israelitas matar “hombres, mujeres y niños, aun los de pecho”, de su enemigo ancestral. Funcionarios gubernamentales y militares dijeron que luchaban contra “animales humanos” y, más tarde, pidieron la “aniquilación total”. Nissim Vaturi, portavoz adjunto del Parlamento, dijo en X que la tarea de Israel debía ser “borrar la Franja de Gaza de la faz de la tierra”. Las acciones de Israel solo pueden entenderse como la puesta en práctica de la intención expresa de hacer que la Franja de Gaza sea inhabitable para su población palestina. Creo que el objetivo era —y sigue siendo hoy— obligar a la población a abandonar la franja por completo o, considerando que no tiene adónde ir, debilitar el enclave mediante bombardeos y una grave privación de alimentos, agua potable, instalaciones de salud y ayuda médica hasta tal punto que sea imposible para los palestinos de Gaza mantener o reconstituir su existencia como grupo.

Mi conclusión ineludible ha llegado a ser que Israel está cometiendo un genocidio contra el pueblo palestino. Como alguien que creció en un hogar sionista, vivió la primera mitad de su vida en Israel, que sirvió en las FDI como soldado y oficial y ha pasado la mayor parte de su carrera investigando y escribiendo sobre crímenes de guerra y el Holocausto, esta fue una conclusión dolorosa a la que llegué y a la que me resistí todo lo que pude. Pero llevo un cuarto de siglo dando clases sobre el genocidio. Sé reconocer uno cuando lo veo.

No es solo una conclusión mía. Un número cada vez mayor de expertos en estudios sobre genocidio y derecho internacional ha llegado a la conclusión de que las acciones de Israel en Gaza solo pueden definirse como genocidio. También lo han hecho Francesca Albanese, relatora especial de la ONU para Cisjordania y Gaza, y Amnistía Internacional. Sudáfrica ha presentado una demanda por genocidio contra Israel ante la Corte Internacional de Justicia.

La negación continua de esta designación por parte de Estados, organizaciones internacionales y expertos jurídicos y académicos causará un daño sin paliativos no solo a la población de Gaza e Israel, sino también al sistema de derecho internacional establecido a raíz de los horrores del Holocausto, concebido para impedir que vuelvan a producirse tales atrocidades. Es una amenaza para los fundamentos mismos del orden moral del que todos dependemos.

***

El delito de genocidio fue definido en 1948 por las Naciones Unidas como la “intención de destruir, total o parcialmente, a un grupo nacional, étnico, racial o religioso”. Por tanto, para determinar lo que constituye genocidio, hay que establecer la intención y demostrar que se está llevando a cabo. En el caso de Israel, esa intención ha sido expresada públicamente por numerosos funcionarios y dirigentes. Pero la intención también puede deducirse de las regularidades en las operaciones sobre el terreno, y estas regularidades quedaron claras para mayo de 2024 —y desde entonces se han hecho cada vez más claras— a medida que las FDI han ido destruyendo sistemáticamente la Franja de Gaza.

La mayoría de los estudiosos del genocidio se muestran cautelosos a la hora de aplicar este término a acontecimientos contemporáneos, precisamente por la tendencia a atribuirlo a cualquier caso de masacre o inhumanidad desde que fue acuñado por el jurista judío-polaco Raphael Lemkin en 1944. De hecho, algunos sostienen que la categorización debería descartarse por completo, porque a menudo sirve más para expresar indignación que para identificar un crimen concreto.

Sin embargo, como reconoció Lemkin, y como acordaron posteriormente las Naciones Unidas, es crucial poder distinguir el intento de destruir a un grupo concreto de personas de otros crímenes del derecho internacional, como los crímenes de guerra y los crímenes contra la humanidad. Esto se debe a que, mientras que otros crímenes implican el asesinato indiscriminado o deliberado de civiles como individuos, el genocidio denota el asesinato de personas como miembros de un grupo, orientado a destruir irreparablemente al propio grupo para que nunca pueda reconstituirse como entidad política, social o cultural. Y, como señaló la comunidad internacional al adoptar la convención, incumbe a todos los Estados signatarios impedir tal intento, hacer todo lo posible para detenerlo mientras se esté produciendo y castigar posteriormente a quien haya participado en este crimen de crímenes, aunque haya ocurrido dentro de las fronteras de un Estado soberano.

La designación tiene importantes ramificaciones políticas, jurídicas y morales. Las naciones, los políticos y el personal militar sospechosos, imputados o declarados culpables de genocidio se consideran inaceptables para la humanidad y pueden arriesgar o perder su derecho a seguir siendo miembros de la comunidad internacional. La declaración de la Corte Internacional de Justicia de que un Estado concreto está implicado en un genocidio, especialmente si la aplica el Consejo de Seguridad de la ONU, puede dar lugar a sanciones severas.

Los políticos o generales imputados o declarados culpables de genocidio u otras infracciones del derecho internacional humanitario por la Corte Penal Internacional pueden ser detenidos fuera de su país. Y una sociedad que condona y es cómplice de genocidio, sea cual sea la postura de sus ciudadanos individuales, llevará esta marca de Caín mucho después de que se apaguen los fuegos del odio y la violencia.

***

Israel ha negado todas las acusaciones de crímenes de guerra, crímenes contra la humanidad y genocidio. Las FDI afirman que investigan las denuncias de crímenes, aunque rara vez han hecho públicas sus conclusiones, y cuando se reconocen infracciones de la disciplina o del protocolo, por lo general han impuesto reprimendas ligeras a su personal. Los dirigentes militares y políticos israelíes describen repetidamente que las FDI actúan bajo la legalidad, afirman que emiten advertencias a la población civil para que evacúe los lugares que están a punto de ser atacados y culpan a Hamás de utilizar a los civiles como escudos humanos.

De hecho, la destrucción sistemática en Gaza no solo de viviendas, sino también de otras infraestructuras —edificios gubernamentales, hospitales, universidades, escuelas, mezquitas, lugares de patrimonio cultural, plantas de tratamiento de agua, zonas agrícolas y parques— refleja una política destinada a hacer muy improbable la reactivación de la vida palestina en el territorio.

Según una reciente investigación de Haaretz, se calcula que 174.000 edificios han sido destruidos o dañados, lo que representa hasta el 70 por ciento de todas las estructuras de la Franja de Gaza. Hasta ahora han muerto más de 58.000 personas, según las autoridades sanitarias gazatíes, entre ellas más de 17.000 niños, que constituyen casi un tercio del total de víctimas mortales. Más de 870 de esos niños tenían menos de un año.

Más de 2000 familias han desaparecido, dijeron las autoridades de salud. Además, 5600 familias cuentan ahora con un solo superviviente. Se cree que al menos 10.000 personas siguen sepultadas bajo las ruinas de sus casas. Más de 138.000 han resultado heridas y mutiladas.

Gaza tiene ahora la triste distinción de tener el mayor número de niños amputados per cápita del mundo. Toda una generación de niños sometidos a continuos ataques militares, a la pérdida de sus padres y a una desnutrición prolongada sufrirá graves repercusiones físicas y mentales durante el resto de su vida. Otros miles incalculables de enfermos crónicos han tenido escaso acceso a la atención hospitalaria.

El horror de lo que ha estado ocurriendo en Gaza sigue siendo descrito por la mayoría de los observadores como una guerra. Pero se trata de un término erróneo. Durante el último año, las FDI no han estado luchando contra un cuerpo militar organizado. La versión de Hamás que planeó y llevó a cabo los atentados del 7 de octubre ha sido destruida, aunque el debilitado grupo siga luchando contra las fuerzas israelíes y conserve el control sobre la población en las zonas que no están en manos del ejército israelí.

En la actualidad, las FDI se dedican principalmente a una operación de demolición y limpieza étnica. Así es como el propio ex jefe de gabinete y ministro de Defensa de Netanyahu, el defensor de la línea dura Moshe Yaalon, describió en noviembre en la televisión israelí Democrat TV y en artículos y entrevistas posteriores el intento de remover la población del norte de Gaza.

El 19 de enero, bajo la presión de Donald Trump, quien estaba a un día de reasumir la presidencia, entró en vigor un alto al fuego que facilitó el intercambio de rehenes en Gaza por prisioneros palestinos en Israel. Pero después de que Israel rompiera el alto al fuego el 18 de marzo, las FDI han estado ejecutando un plan muy publicitado para concentrar a toda la población gazatí en una cuarta parte del territorio en tres zonas: la ciudad de Gaza, los campos de refugiados centrales y la costa de Al-Mawasi, en el extremo suroccidental de la Franja de Gaza.

Utilizando un gran número de excavadoras y enormes bombas aéreas suministradas por Estados Unidos, el ejército parece estar intentando demoler todas las estructuras restantes y establecer el control sobre las otras tres cuartas partes del territorio.

Esto también está siendo facilitado por un plan que proporciona —de forma intermitente— suministros de ayuda limitados en unos pocos puntos de distribución vigilados por el ejército israelí, atrayendo a la población hacia el sur. Muchos gazatíes mueren en un intento desesperado de obtener alimentos, y la crisis de hambre se agrava. El 7 de julio, el ministro de Defensa, Israel Katz, dijo que las FDI construirían una “ciudad humanitaria” sobre las ruinas de Rafah para alojar inicialmente a 600.000 palestinos de la zona de Al-Mawasi, a quienes los abastecerían organismos internacionales y no se les permitiría salir.

***

Algunos podrían describir esta campaña como un caso de limpieza étnica, no de genocidio. Pero existe una relación entre ambos crímenes. Cuando un grupo étnico no tiene adónde ir y está siendo desplazado constantemente de una llamada zona segura a otra, se le bombardea sin asedio y es privado de alimentos, la limpieza étnica puede transformarse en genocidio.

Así ocurrió en varios genocidios bien estudiados del siglo XX, como el de los herero y los nama en la África del Sudoeste alemana —ahora Namibia—, que comenzó en 1904, el de los armenios en la Primera Guerra Mundial y, de hecho, incluso en el Holocausto, que inició con el intento de Alemania de expulsar a los judíos y terminó con su matanza.

A día de hoy, solo unos pocos estudiosos del Holocausto —y ninguna institución dedicada a investigarlo y conmemorarlo— han advertido de que Israel podría ser acusado de llevar a cabo crímenes de guerra, crímenes contra la humanidad, limpieza étnica o genocidio. Este silencio ha puesto en ridículo el eslogan “Nunca más”, transformando su significado de una afirmación de resistencia a la inhumanidad dondequiera que se perpetre en una excusa, una disculpa, de hecho, incluso una carta blanca para destruir a otros invocando el propio victimismo pasado.

Este es otro de los muchos costos incalculables de la catástrofe actual. Mientras Israel intenta literalmente acabar con la existencia palestina en Gaza y ejerce una violencia cada vez mayor contra los palestinos en Cisjordania, el crédito moral e histórico del que el Estado judío ha hecho uso hasta ahora se está agotando.

Israel, creado a raíz del Holocausto como respuesta al genocidio nazi de los judíos, siempre ha insistido en que cualquier amenaza a su seguridad debe considerarse como potencialmente conducente a otro Auschwitz. Esto proporciona a Israel licencia para presentar como nazis a quienes percibe como sus enemigos, término utilizado repetidamente por figuras de los medios de comunicación israelíes para describir a Hamás y, por extensión, a todos los gazatíes, basándose en la afirmación popular de que ninguno de ellos es “ajeno”, ni siquiera los niños, que crecerían para convertirse en militantes.

No se trata de un fenómeno nuevo. Ya durante la invasión israelí del Líbano en 1982, el primer ministro Menachem Begin comparó a Yasir Arafat, entonces escondido en Beirut, con Adolf Hitler en su búnker de Berlín. Esta vez, la analogía se utiliza en relación con una política destinada a desarraigar y eliminar a toda la población de Gaza.

Las escenas diarias de horror en Gaza, de las que el público israelí está protegido por la autocensura de sus propios medios de comunicación, ponen al descubierto las mentiras de la propaganda israelí de que se trata de una guerra de defensa contra un enemigo de tipo nazi. Uno se estremece cuando los portavoces israelíes pronuncian descaradamente el eslogan hueco de que las FDI son el “ejército más moral del mundo”.

Algunas naciones europeas, como Francia, Reino Unido y Alemania, así como Canadá, han protestado discretamente por las acciones israelíes, especialmente desde que violó el alto al fuego en marzo. Pero no han suspendido los envíos de armas ni han tomado muchas medidas económicas o políticas concretas y significativas que pudieran disuadir al gobierno de Netanyahu.

Durante un tiempo, el gobierno de Estados Unidos pareció haber perdido interés en Gaza, ya que el presidente Trump anunció inicialmente en febrero que Estados Unidos se haría cargo de Gaza, prometiendo convertirla en la “Riviera de Medio Oriente”, y luego dejó que Israel continuara con la destrucción de la Franja de Gaza y centró su atención en Irán. Por el momento, solo cabe esperar que Trump vuelva a presionar a un reticente Netanyahu para que, al menos, concrete un nuevo alto al fuego y ponga fin a la incesante matanza.

***

¿Cómo afectará al futuro de Israel la demolición inevitable de su moralidad incontestable, derivada de su nacimiento de las cenizas del Holocausto?

Los dirigentes políticos de Israel y su ciudadanía tendrán que decidirlo. Parece haber poca presión interna para el cambio de paradigma que se necesita urgentemente: el reconocimiento de que no hay más solución a este conflicto que un acuerdo palestino-israelí para compartir la tierra bajo los parámetros que acuerden ambas partes, ya sean dos Estados, un Estado o una confederación. También parece improbable una fuerte presión externa de los aliados del país. Me preocupa profundamente que Israel persista en su rumbo desastroso y se convierta, tal vez de forma irreversible, en un Estado autoritario de apartheid en toda regla. Tales Estados, como nos ha enseñado la historia, no duran.

Surge otra pregunta: ¿qué consecuencias tendrá el retroceso moral de Israel para la cultura de la conmemoración del Holocausto y la política de la memoria, la educación y la academia, cuando tantos de sus líderes intelectuales y administrativos se han negado hasta ahora a asumir su responsabilidad de denunciar la inhumanidad y el genocidio dondequiera que se produzcan?

Quienes participan en la cultura mundial de conmemoración y recuerdo construida en torno al Holocausto tendrán que enfrentarse a un ajuste de cuentas moral. La comunidad más extensa de estudiosos del genocidio —los que se dedican al estudio del genocidio comparado o de cualquiera de los muchos otros genocidios que han empañado la historia de la humanidad— se acerca cada vez más a un consenso sobre la calificación de los acontecimientos de Gaza como genocidio.

En noviembre, cuando había transcurrido poco más de un año desde el inicio de la guerra, el académico israelí especializado en genocidios Shmuel Lederman se unió al coro de opinión cada vez mayor que afirma que Israel participó en acciones genocidas. El abogado internacional canadiense William Schabas llegó a la misma conclusión el año pasado y hace poco describió la campaña militar de Israel en Gaza como “absolutamente” un genocidio.

Otros expertos en genocidio, como Melanie O’Brien, presidenta de la Asociación Internacional de Estudiosos del Genocidio, y el especialista británico Martin Shaw (quien también ha dicho que el ataque de Hamás fue genocida), han llegado a la misma conclusión, mientras que el académico australiano A. Dirk Moses, de la Universidad Municipal de Nueva York, describió estos hechos en la publicación neerlandesa NRC como una “mezcla de lógica genocida y militar”. En el mismo artículo, Uğur Ümit Üngör, profesor del Instituto NIOD de Estudios sobre la Guerra, el Holocausto y el Genocidio, con sede en Ámsterdam, dijo que probablemente existan estudiosos que sigan sin pensar que se trata de un genocidio, pero “no los conozco”.

La mayoría de los estudiosos del Holocausto que conozco no sostienen, o al menos no expresan públicamente, esta opinión. Con algunas excepciones notables, como el israelí Raz Segal, director del Programa de Estudios sobre el Holocausto y el Genocidio de la Universidad de Stockton, en Nueva Jersey, y los historiadores de la Universidad Hebrea de Jerusalén, Amos Goldberg y Daniel Blatman, la mayoría de los académicos dedicados a la historia del genocidio nazi de los judíos han guardado un silencio sorprendente, mientras que algunos han negado abiertamente los crímenes de Israel en Gaza, o han acusado a sus colegas más críticos de usar retórica incendiaria, exageración salvaje, de envenenar el pozo y de antisemitismo.

En diciembre, el estudioso del Holocausto Norman JW Goda opinó que “acusaciones de genocidio como esta se han utilizado por mucho tiempo como algo que oculta impugnaciones más generales sobre la legitimidad de Israel”, y expresó su preocupación de que “hayan degradado la gravedad de la palabra genocidio”. Este “libelo de genocidio”, como lo denominó Goda en un ensayo, “despliega toda una serie de tropos antisemitas”, incluido “el acoplamiento de la acusación de genocidio con el asesinato deliberado de niños, cuyas imágenes son omnipresentes en organizaciones no gubernamentales, redes sociales y otras plataformas que acusan a Israel de genocidio”.

En otras palabras, mostrar imágenes de niños palestinos despedazados por bombas de fabricación estadounidense lanzadas por pilotos israelíes es, desde este punto de vista, un acto antisemita.

Más recientemente, Goda y un respetado historiador de Europa, Jeffrey Herf, escribieron en The Washington Post que “la acusación de genocidio lanzada contra Israel se nutre de profundos pozos de miedo y odio” que se encuentran en “interpretaciones radicales tanto del cristianismo como del islam”. Ha “desplazado el oprobio de los judíos como grupo religioso/étnico al Estado de Israel, al que describe como intrínsecamente malvado”.

***

¿Cuáles son las ramificaciones de esta brecha entre los estudiosos del genocidio y los historiadores del Holocausto? No se trata simplemente de una disputa en el mundo académico. La cultura de la memoria creada en las últimas décadas en torno al Holocausto abarca mucho más que el genocidio a los judíos. Ha llegado a desempeñar un papel crucial en la política, la educación y la identidad.

Los museos dedicados al Holocausto han servido de modelo para las representaciones de otros genocidios en todo el mundo. La insistencia en que las lecciones del Holocausto exigen la promoción de la tolerancia, la diversidad, el antirracismo y el apoyo a los migrantes y refugiados, por no hablar de los derechos humanos y el derecho internacional humanitario, tiene sus raíces en la comprensión de las implicaciones universales de este crimen en el epicentro de la civilización occidental en el apogeo de la modernidad.

Desacreditar a los estudiosos del genocidio que señalan el genocidio de Israel en Gaza al presentarlos como antisemitas amenaza con erosionar el fundamento de los estudios sobre el genocidio: la necesidad permanente de definir, prevenir, castigar y reconstruir la historia del genocidio. Sugerir que este esfuerzo está motivado por intereses y sentimientos malignos —que está impulsado por el odio y los prejuicios que estuvieron en la raíz del Holocausto— no solo es moralmente escandaloso, sino que también da pie a una política de negacionismo y a la impunidad.

Del mismo modo, cuando quienes han dedicado sus carreras a enseñar y conmemorar el Holocausto insisten en ignorar o negar las acciones genocidas de Israel en Gaza, amenazan con debilitar todo lo que el conocimiento acumulado y la conmemoración del Holocausto han defendido en las últimas décadas. Es decir, la dignidad de todo ser humano, el respeto del Estado de derecho y la urgente necesidad de no permitir nunca que la inhumanidad se apodere de los corazones de las personas y dirija las acciones de las naciones en nombre de la seguridad, el interés nacional y la pura venganza.

Lo que temo es que, tras el genocidio en Gaza, ya no sea posible seguir enseñando e investigando el Holocausto de la misma manera que antes. Dado que el Estado de Israel y sus defensores han invocado el Holocausto de forma tan implacable para encubrir los crímenes de las FDI, el estudio y la memoria del Holocausto podrían perder su pretensión de preocuparse por la justicia universal y retroceder al mismo gueto étnico en el que comenzó su vida al final de la Segunda Guerra Mundial: como una preocupación marginada de los restos de un pueblo marginado, un acontecimiento étnicamente específico, antes de que consiguiera, décadas más tarde, encontrar el lugar que le corresponde como lección y advertencia para la humanidad en su conjunto.

Igual de preocupante es la perspectiva de que el estudio del genocidio en su conjunto no sobreviva a las acusaciones de antisemitismo, dejándonos sin la comunidad crucial de académicos y juristas internacionales que se mantengan al pie del cañón en un momento en el que el auge de la intolerancia, el odio racial, el populismo y el autoritarismo amenaza los valores que constituían el núcleo de estos esfuerzos intelectuales, culturales y políticos del siglo XX.

Quizá la única luz al final de este túnel tan oscuro sea la posibilidad de que una nueva generación de israelíes afronte su futuro sin refugiarse en la sombra del Holocausto, aunque tengan que soportar la mancha del genocidio en Gaza perpetrado en su nombre. Israel tendrá que aprender a vivir sin recurrir al Holocausto como justificación de la inhumanidad. Eso, a pesar de todo el terrible sufrimiento que estamos presenciando ahora, es algo valioso, y puede que, a largo plazo, ayude a Israel a afrontar el futuro de un modo más sano, más racional y menos temeroso y violento.

Esto no compensará en nada la enorme cantidad de muerte y sufrimiento de los palestinos. Pero un Israel liberado de la abrumadora carga del Holocausto podrá aceptar por fin la necesidad ineludible de que sus siete millones de ciudadanos judíos compartan el territorio con los siete millones de palestinos que viven en Israel, Gaza y Cisjordania en paz, igualdad y dignidad. Ese será el único ajuste de cuentas justo.



* Publicado en The New York Times, 15.07.25. El Dr. Bartov es profesor de estudios sobre el Holocausto y el genocidio en la Universidad de Brown.

Qué es la “Economía rosquilla” y por qué la necesitamos




La economista Kate Raworth se ha centrado en promover un cambio de mentalidad para hacer frente a los retos sociales y ecológicos del siglo XXI.


Triodos Bank


Según la economista británica Kate Raworth, hace falta una mentalidad radicalmente nueva para afrontar los retos sociales y económicos del siglo XXI. En esta entrevista, comparte los mensajes claves de su teoría de la “Economía rosquilla”, que también recoge ahora la edición en castellano de su libro Economía rosquilla: 7 maneras de pensar la economía del siglo XXI.

Raworth argumenta que nuestra actividad económica debería desarrollarse en el espacio situado entre una base social y un techo ecológico. En la práctica, esto significa que todo el mundo debe tener acceso a los bienes básicos —comida, vivienda y salud— pero dentro de los medios y recursos disponibles en el planeta.

La rosquilla de su analogía es una divertida metáfora para un reto muy serio y urgente ante el que nos encontramos.

-Su modelo económico tiene ya 6 años. ¿Hemos progresado en algo durante ese periodo de tiempo?

-Sí, ha habido progresos. Los Objetivos de Desarrollo Sostenible (ODS) de Naciones Unidas son un paso esencial. Estos objetivos incluyen los ecosistemas que sustentan la vida en nuestro planeta. Y están concebidos para todos los países, no solo para el Sur. Sin embargo, creo que deberíamos ser capaces de superar los límites de nuestra imaginación. La cuestión es si podemos diseñar un sistema que nos permita mejorar las cosas. Creo que esa debería ser nuestra ambición: desarrollar actividades que sean distributivas y generativas desde su origen.

-¿Qué quiere decir con “distributivas desde su origen”?

-Normalmente hablamos de redistribución de riqueza que ya se encuentra en manos de un grupo pequeño de personas. Esa es la esencia del modelo económico del siglo XX: redistribución de ingresos a posteriori por medio de impuestos progresivos y otros mecanismos. El concepto distributivo del siglo XXI consiste en diseñar nuestras actividades de tal forma que el valor se comparta desde el principio, en vez de redistribuir después.

Y no hablo solo de dinero, sino también de tierras, empresas y medios para generar ingresos. ¿Qué va a ocurrir con la propiedad de la tecnología, quiénes serán los propietarios de nuestros robots? ¿Qué hacemos con nuestros conocimientos? ¿No tendría sentido que las ideas innovadoras procedentes de investigación financiada con fondos públicos fueran accesibles para todo el mundo?

La esencia del reto, por tanto, consiste en reinventar la forma en que creamos valor en nuestra economía para compartirlo desde el principio. Para ello se pueden pensar formas alternativas de propiedad de las empresas, como las cooperativas. Otra forma de integrar la idea de valor compartido en el diseño es renunciar a congelar el valor en patentes y, en vez de ello, permitir que circule libremente como bien común. De este modo, las ideas circulan socialmente y los investigadores pueden usarlas y ampliarlas. Otra manera más sería trabajar con monedas locales que conectan y empoderan nuevas iniciativas.

-¿Qué es una economía generativa?

-Ha llegado a parecernos normal que una empresa concentre sus esfuerzos en generar un único tipo de valor: beneficio financiero con el que, además, se quedan la propia empresa y sus accionistas. Esa es en gran medida la mentalidad del siglo XX: ¿cuánto dinero puedo sacar de mi aventura empresarial? Este modelo se podría describir como una economía extractiva, una sobreexplotación que extrae recursos valiosos de la comunidad.

El modelo generativo del siglo XXI parte de una idea diferente. La cuestión ahora es: ¿cuántos tipos de valor puedo integrar en el diseño de mi empresa para asegurar la devolución de valor a la sociedad y el medio ambiente?

Como empresa, ¿por qué trabajar únicamente para reducir tu impacto negativo en el medio ambiente, si con el mismo esfuerzo puedes generar un impacto positivo? En vez de limitarte a reducir la emisión de gases de efecto invernadero, genera energía renovable y compártela con tu entorno. Lo mismo se puede aplicar al ámbito social, donde las empresas podrían contribuir activamente al bienestar de sus barrios o comunidades.

-¿Qué papel debe tener el mundo financiero?

-Esa es la pregunta del millón de dólares. En primer lugar debemos investigar cómo captar dinero de una forma adecuada para el siglo XXI, lo cual nos lleva a los bancos éticos, al dinero con paciencia, y en un primer momento incluso a la filantropía, para que las cosas echen a rodar. Este tipo de bancos son fuentes importantes de dinero por un cambio, porque sus valores están en línea con las empresas a las que apoyan.

En la industria financiera del siglo XX podíamos contribuir a través de nuestros fondos de pensiones. ¿No podríamos reestructurar los fondos para que estén más orientados al valor? ¿No podríamos facilitar a la gente el cambio a fondos de pensiones éticos? Además de esto, obviamente, hace falta una legislación más clara. Pero yo me centro principalmente en encontrar nuevas formas de financiación adecuadas para las empresas del siglo XXI.

Y ahí es donde aparece Triodos Bank [del cual Raworth es cliente]. El banco presta atención a estas nuevas formas de iniciativa empresarial, que son esenciales para el futuro. Triodos Bank utiliza el dinero de forma consciente como herramienta para generar cambios positivos en el ámbito de la sociedad, la ecología y la cultura. Me parece un excelente ejemplo de empresa con un objetivo dinámico orientado a empresas distributivas y generativas, cuyos valores van más allá del beneficio financiero que permanece en la compañía.


La base de la “Economía rosquilla” son las necesidades sociales y su techo los límites ambientales.



* Publicado en La Revista Triodos, 2018. Kate Raworth es investigadora sénior en el Instituto de Cambio Medioambiental de la Universidad de Oxford, donde imparte el Máster de Cambio y Gestión Medioambiental. También es asociada sénior del Instituto Cambridge para el Liderazgo en Sostenibilidad.

Declaración de San Francisco sobre la evaluación de la investigación (DORA)




La Declaración de San Francisco tiene ya más de 20 años y nunca está de más preguntar sobre el impacto que ha tenido en las universidades y centros de estudios sobre la "serie de deficiencias bien documentadas" que el "factor de impacto" presenta "como herramienta para la evaluación de la investigación".


Existe una necesidad apremiante de mejorar la forma en que las agencias de financiación, las instituciones académicas y otros grupos evalúan la investigación científica. Para abordar este tema, un grupo de editores de revistas académicas se reunió durante la Reunión anual de la American Society for Cell Biology (ASCB) en San Francisco, California, el 16 de diciembre de 2012. Este grupo desarrolló una serie de recomendaciones, conocidas como la Declaración de San Francisco sobre la Evaluación de la Investigación. Invitamos a los grupos interesados de todas las disciplinas científicas a mostrar su apoyo añadiendo sus nombres a esta declaración.

Los productos de la investigación científica son muchos y variados, e incluyen: artículos de investigación que informan sobre nuevos conocimientos, datos, reactivos y software; propiedad intelectual y jóvenes científicos capacitados. Las agencias financiadoras, las instituciones que emplean científicos y los propios científicos, tienen el deseo y la necesidad de evaluar la calidad y el impacto de los resultados científicos. Por lo tanto, es imperativo que la producción científica se mida con precisión y se evalúe con prudencia.

El factor de impacto se utiliza con frecuencia como parámetro principal con el que comparar la producción científica de individuos e instituciones. El factor de impacto, calculado por Thomson Reuters*, se creó originalmente como una herramienta para ayudar a los bibliotecarios a identificar revistas para comprar, no como una medida de la calidad científica de la investigación en un artículo. Teniendo esto en cuenta, es fundamental comprender que el factor de impacto tiene una serie de deficiencias bien documentadas como herramienta para la evaluación de la investigación.

Estas limitaciones incluyen:

A. las distribuciones de citas dentro de las revistas son muy sesgadas [1-3], 
B. las propiedades del factor de impacto son específicas de cada campo: es un compuesto de múltiples tipos de artículos altamente diversos, incluyendo trabajos de investigación primaria y revisiones [1, 4], 
C. los factores de impacto pueden ser manipulados (o evaluados) por la política editorial [5], y
D. los datos utilizados para calcular el factor de impacto no son transparentes ni están abiertamente disponibles para el público [4, 6, 7].

A continuación, hacemos una serie de recomendaciones para mejorar la forma en que se evalúa la calidad de la producción científica. Los productos que no sean artículos de investigación crecerán en importancia a la hora de evaluar la eficacia de la investigación en el futuro, pero el documento de investigación revisado por pares seguirá siendo primordial para la evaluación de la investigación. Por lo tanto, nuestras recomendaciones se centran en las prácticas relacionadas con los artículos de investigación publicados en revistas revisadas por pares, pero pueden y deben ampliarse reconociendo productos adicionales, como los conjuntos de datos, ya que son productos de investigación importantes. Estas recomendaciones están dirigidas a agencias financiadoras, instituciones académicas, revistas, organizaciones que proporcionan métricas e investigadores individuales.

Estas recomendaciones cubren una serie de temas:

- La necesidad de eliminar el uso de métricas basadas en revistas, tales como el factor de impacto, en consideraciones de financiamiento, nombramiento y promoción, 
- la necesidad de evaluar la investigación por sus propios méritos en lugar de basarse en la revista en la que se publica la investigación, y
- la necesidad de capitalizar las oportunidades que ofrece la publicación en línea (como flexibilizar los límites innecesarios en el número de palabras, figuras y referencias en los artículos, y explorar nuevos indicadores de importancia e impacto).

Reconocemos que múltiples agencias financiadoras, instituciones, editores e investigadores ya están fomentando mejores prácticas en la evaluación de la investigación. Dichos pasos están comenzando a aumentar el impulso hacia enfoques más sofisticados y significativos para la evaluación de la investigación que ahora pueden ser desarrollados y adoptados por todas las partes clave involucradas.

Los signatarios de la Declaración de San Francisco sobre la Evaluación de la Investigación apoyan la adopción de las siguientes prácticas en la evaluación de la investigación.

Recomendación generales

1. No utilice métricas basadas en revistas, como el factor de impacto, como una medida sustituta de la calidad de los artículos de investigación individuales, para evaluar las contribuciones de un científico individual, o en las decisiones de contratación, promoción o financiación.

Para las agencias de financiación

2. Sea explícito sobre los criterios utilizados para evaluar la productividad científica de los solicitantes de fondos de investigación, especialmente para los investigadores que están iniciando su carrera investigadora, que el contenido científico de un artículo es mucho más importante que las métricas de publicación o la identidad de la revista en la que fue publicado.

3. Con el fin de evaluar la investigación, considere el valor y el impacto de todos los resultados de la investigación (incluidos los conjuntos de datos y el software) además de las publicaciones de investigación, y considere una amplia gama de medidas de impacto que incluyan indicadores cualitativos, como la influencia sobre la política y prácticas científicas.

Para las instituciones

4. Sea explícito sobre los criterios utilizados para realizar decisiones de contratación, permanencia y promoción, destacando, especialmente para los investigadores que están iniciando su carrera investigadora, que el contenido científico de un trabajo es mucho más importante que las métricas de publicación o la identidad de la revista en la que fue publicado.

5. Con el fin de evaluar la investigación, considere el valor y el impacto de todos resultados de la investigación (incluidos los conjuntos de datos y el software) además de las publicaciones de investigación, y considere una amplia gama de medidas de impacto, incluidos los indicadores cualitativos del impacto de la investigación, como la influencia sobre la política y prácticas científicas.

Para las editoriales

6. Reduzca profundamente el énfasis en el factor de impacto como herramienta promocional, idealmente dejando de promover su uso o presentando la métrica en el contexto de una variedad de métricas basadas en revistas (por ejemplo, factor de impacto de 5 años, EigenFactor [8], SCImago [9], h-index, tiempo editorial y de publicación, etc.) que proporcionan una visión más amplia del rendimiento de la revista.

7. Ponga a disposición una variedad de métricas a nivel de artículo para alentar un cambio hacia la evaluación basada en el contenido científico de un artículo en lugar de las métricas de publicación de la revista en la que se publicó.

8. Fomente las prácticas de la autoría responsable y la provisión de información sobre las contribuciones específicas de cada autor.

9. Independientemente de que una revista sea de acceso abierto o basada en suscripciones, elimine todas las limitaciones de reutilización de las listas de referencias en los artículos de investigación y haga que estén disponibles bajo la dedicación de dominio público de Creative Commons [10].

10. Elimine o reduzca las restricciones sobre el número de referencias en los artículos de investigación y, cuando corresponda, ordene la citación de la literatura primaria a favor de las revisiones para dar crédito al grupo o los grupos que primero informaron de un hallazgo.

Para las organizaciones que proporcionan métricas

11. Sea abierto y transparente al proporcionar datos y métodos utilizados para calcular las métricas.

12. Proporcione los datos bajo una licencia que permita la reutilización sin restricciones y proporcione acceso computacional a los datos, cuando sea posible.

13. Especifique que no se tolerará la manipulación inapropiada de las métricas; sea explícito sobre lo que constituye una manipulación inapropiada y qué medidas se tomarán para combatirla.

14. Tenga en cuenta la variación en los tipos de artículos (por ejemplo, revisiones frente a artículos de investigación) y en las diferentes áreas temáticas al utilizar, agregar o comparar métricas.

Para los investigadores

15. Cuando participe en comités que toman decisiones sobre financiación, contratación, permanencia o promoción, realice evaluaciones basadas en el contenido científico en lugar de en métricas de publicación.

16. Cuando sea apropiado, cite literatura primaria en que las observaciones son referidas primero, en lugar de revisiones para dar crédito donde debe darse.

17. Utilice una gama de métricas e indicadores basadas en declaraciones personales y de apoyo, como evidencia del impacto de artículos individuales publicados y otros resultados de investigación [11].

18. Impugne las prácticas de evaluación que dependen indebidamente del factor de impacto y promueva y enseñe prácticas que se centren en el valor y la influencia de los resultados de investigación específicos.


Referencias












* El Journal Impact Factor actualmente es publicado por Clarivate Analytics.



* Publicado en DORA, 16.05.13. Ud. puede firmar la Declaración aquí.

Cuatro prioridades éticas para las neurotecnologías y la IA


Hombre con una lesión en la médula espinal se prepara para una carrera ciclista virtual en la que los competidores dirigen avatares utilizando señales cerebrales.


La inteligencia artificial y las interfaces cerebro-computadora deben respetar y preservar la privacidad, la identidad, la autonomía y la igualdad de las personas.


Rafael Yuste, Sara Goering y otros


Consideremos el siguiente escenario. Un hombre paralítico participa en un ensayo clínico de una interfaz cerebro-computadora (BCI). Una computadora conectada a un chip en su cerebro está entrenada para interpretar la actividad neuronal resultante de sus ensayos mentales de una acción. La computadora genera comandos que mueven un brazo robótico. Un día, el hombre se siente frustrado con el equipo experimental. Más tarde, su mano robótica aplasta una taza después de quitársela a uno de los asistentes de investigación y lastima al asistente. Se disculpa por lo que dice que debe haber sido un mal funcionamiento del dispositivo y se pregunta si su frustración con el equipo jugó un papel.

Este escenario es hipotético, pero ilustra algunos de los desafíos a los que podría enfrentarse la sociedad.

La tecnología BCI actual se centra principalmente en resultados terapéuticos, como ayudar a las personas con lesiones de la médula espinal. Ya permite a los usuarios realizar tareas motoras relativamente simples, como mover el cursor de una computadora o controlar una silla de ruedas motorizada, por ejemplo. Además, los investigadores ya pueden interpretar la actividad neuronal de una persona a partir de exploraciones de resonancia magnética funcional a un nivel rudimentario [1], es decir, que el individuo está pensando en una persona, por ejemplo, en lugar de en un automóvil.

Podrían pasar años o incluso décadas hasta que la BCI y otras neurotecnologías formen parte de nuestra vida diaria, pero los avances tecnológicos indican que estamos en camino de un mundo en el que será posible descifrar los procesos mentales de las personas y manipular directamente los mecanismos cerebrales que subyacen a sus intenciones, emociones y decisiones; en el que los individuos podrán comunicarse con otros simplemente pensando; y en el que poderosos sistemas computacionales vinculados directamente a los cerebros de las personas ayudarán a sus interacciones con el mundo de tal manera que sus capacidades mentales y físicas se verán enormemente mejoradas.

Estos avances podrían revolucionar el tratamiento de muchas enfermedades, desde lesiones cerebrales y parálisis hasta epilepsia y esquizofrenia, y transformar la experiencia humana para mejor. Pero la tecnología también podría exacerbar las desigualdades sociales y ofrecer a las corporaciones, piratas informáticos, gobiernos o cualquier otra persona nuevas formas de explotar y manipular a las personas. Y podría alterar profundamente algunas características humanas fundamentales: la vida mental privada, la capacidad de acción individual y la comprensión de los individuos como entidades limitadas por sus cuerpos.

Es fundamental considerar ahora las posibles ramificaciones.

El Grupo Morningside está formado por neurocientíficos, neurotecnólogos, médicos, especialistas en ética e ingenieros de inteligencia artificial. Incluye representantes de Google y Kernel (una start-up de neurotecnología de Los Ángeles, California); de proyectos internacionales relacionados con el cerebro; y de instituciones académicas y de investigación de Estados Unidos, Canadá, Europa, Israel, China, Japón y Australia. Nos reunimos en un taller patrocinado por la Fundación Nacional de Ciencias de Estados Unidos en la Universidad de Columbia, Nueva York, en mayo de 2017 para debatir la ética de las neurotecnologías y la inteligencia artificial.

Creemos que las directrices éticas existentes son insuficientes para este ámbito [2]. Entre ellas se incluyen la Declaración de Helsinki, una declaración de principios éticos establecida por primera vez en 1964 para la investigación médica que involucra a sujetos humanos (go.nature.com/2z262ag); el Informe Belmont, una declaración de 1979 elaborada por la Comisión Nacional de los Estados Unidos para la Protección de los Sujetos Humanos de la Investigación Biomédica y del Comportamiento (go.nature.com/2hrezmb); y la declaración de principios de precaución sobre inteligencia artificial (IA) de Asilomar, publicada a principios de este año y firmada por líderes empresariales e investigadores de IA, entre otros (go.nature.com/2ihnqac).

Para empezar a abordar este déficit, aquí presentamos recomendaciones relacionadas con cuatro áreas de preocupación: privacidad y consentimiento; agencia e identidad; aumento de la capacidad; y sesgo. Distintas naciones y personas de distintas religiones, etnias y antecedentes socioeconómicos tendrán diferentes necesidades y perspectivas. Por ello, los gobiernos deben crear sus propios órganos deliberativos para mediar en un debate abierto en el que participen representantes de todos los sectores de la sociedad y para determinar cómo traducir estas directrices en políticas, incluidas leyes y reglamentos específicos.


Inversiones inteligentes

Algunos de los inversores más ricos del mundo apuestan por la interacción entre la neurociencia y la inteligencia artificial. Más de una docena de empresas de todo el mundo, incluidas Kernel y la start-up de Elon Musk, Neuralink, que se lanzó este año, están invirtiendo en la creación de dispositivos que puedan "leer" la actividad cerebral humana y "escribir" información neuronal en el cerebro. Calculamos que el gasto actual en neurotecnología por parte de la industria con fines de lucro ya es de 100 millones de dólares al año y crece rápidamente.

La inversión procedente de otros sectores también es considerable. Desde 2013, más de 500 millones de dólares de fondos federales se han destinado al desarrollo de neurotecnología solo en el marco de la iniciativa BRAIN de Estados Unidos.

Las capacidades actuales ya son impresionantes. Un neurocientífico paralizado por esclerosis lateral amiotrófica (ELA; también conocida como enfermedad de Lou Gehrig o enfermedad de la neurona motora) ha utilizado una BCI para gestionar su laboratorio, redactar solicitudes de subvención y enviar correos electrónicos [3]. Mientras tanto, investigadores de la Universidad Duke en Durham, Carolina del Norte, han demostrado que tres monos con implantes de electrodos pueden funcionar como una "red cerebral" para mover el brazo de un avatar de forma colaborativa [4]. Estos dispositivos pueden funcionar a miles de kilómetros si la señal se transmite de forma inalámbrica a través de Internet.

Pronto se superarán los aparatos tan rudimentarios, que pueden estimular y leer la actividad de unas pocas docenas de neuronas como máximo. A principios de este año, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) de Estados Unidos lanzó un proyecto llamado Diseño de Sistemas de Ingeniería Neural. Su objetivo es obtener la aprobación de la Administración de Alimentos y Medicamentos de Estados Unidos dentro de cuatro años para un dispositivo inalámbrico para el cerebro humano que pueda monitorear la actividad cerebral utilizando un millón de electrodos simultáneamente y estimular selectivamente hasta 100.000 neuronas.

Mientras tanto, Google, IBM, Microsoft, Facebook, Apple y numerosas empresas emergentes están construyendo redes neuronales artificiales cada vez más sofisticadas que ya pueden superar a los humanos en tareas con entradas y salidas bien definidas.

El año pasado, por ejemplo, investigadores de la Universidad de Washington en Seattle demostraron que el sistema FaceNet de Google podía reconocer una cara entre un millón de otras. Otro sistema de Google con una arquitectura de red neuronal similar supera con creces a los humanos que han viajado mucho a la hora de adivinar en qué parte del mundo se ha fotografiado una escena callejera, lo que demuestra la generalidad de la técnica. En agosto, Microsoft anunció que, en ciertas métricas, su red neuronal para reconocer el habla conversacional ha igualado las capacidades incluso de los profesionales entrenados, que tienen la opción de rebobinar repetidamente y escuchar las palabras utilizadas en contexto. Y utilizando datos de electroencefalogramas (EEG), investigadores de la Universidad de Friburgo en Alemania mostraron en julio cómo se pueden utilizar las redes neuronales para decodificar la actividad cerebral relacionada con la planificación y así controlar robots [5] .

Las redes neuronales futuras derivadas de una mejor comprensión de cómo funcionan las reales serán casi con toda seguridad mucho más potentes que estos ejemplos. Las redes artificiales que se utilizan actualmente se han inspirado en modelos de circuitos cerebrales que tienen más de 50 años de antigüedad, que se basan en el registro de la actividad de neuronas individuales en animales anestesiados [6]. En los laboratorios de neurociencia actuales, los investigadores pueden monitorear y manipular la actividad de miles de neuronas en animales despiertos y en comportamiento, gracias a los avances en métodos ópticos, computación, ingeniería molecular y microelectrónica.

Ya estamos íntimamente conectados con nuestras máquinas. Los investigadores de Google calcularon este año que el usuario medio toca su teléfono casi un millón de veces al año (datos no publicados). El cerebro humano controla los sistemas auditivo y visual para descifrar sonidos e imágenes, y ordena a las extremidades que sostengan y manipulen nuestros aparatos. Sin embargo, la convergencia de los avances en neurotecnologías e inteligencia artificial ofrecería algo cualitativamente diferente: la conexión directa de los cerebros de las personas con la inteligencia de las máquinas y la elusión de las funciones sensoriomotoras normales del cerebro y el cuerpo.


Cuatro preocupaciones

Para que las neurotecnologías despeguen en los mercados de consumo general, los dispositivos tendrían que ser no invasivos, presentar un riesgo mínimo y requerir mucho menos gasto para su implementación que los procedimientos neuroquirúrgicos actuales. No obstante, incluso ahora, las empresas que están desarrollando dispositivos deben rendir cuentas de sus productos y guiarse por ciertos estándares, mejores prácticas y normas éticas.

Destacamos cuatro áreas de preocupación que exigen una acción inmediata. Aunque planteamos estas cuestiones en el contexto de la neurotecnología, también se aplican a la IA.

1. Privacidad y consentimiento. Ya se puede obtener un nivel extraordinario de información personal a partir de los rastros de datos de las personas. Investigadores del Instituto Tecnológico de Massachusetts en Cambridge, por ejemplo, descubrieron en 2015 que el análisis detallado del comportamiento motor de las personas, revelado a través de sus patrones de escritura en el teclado de sus dispositivos personales, podría permitir un diagnóstico más temprano de la enfermedad de Parkinson [7]. Un estudio de 2017 sugiere que las mediciones de patrones de movilidad, como las obtenidas de personas que llevan teléfonos inteligentes durante sus actividades diarias normales, se pueden utilizar para diagnosticar signos tempranos de deterioro cognitivo resultante de la enfermedad de Alzheimer [8].

Los algoritmos que se utilizan para orientar la publicidad, calcular las primas de seguros o emparejar a posibles parejas serán considerablemente más potentes si se basan en información neuronal (por ejemplo, patrones de actividad de las neuronas asociadas a determinados estados de atención). Y los dispositivos neuronales conectados a Internet abren la posibilidad de que individuos u organizaciones (piratas informáticos, corporaciones o agencias gubernamentales) rastreen o incluso manipulen la experiencia mental de un individuo.

Creemos que los ciudadanos deberían tener la capacidad —y el derecho— de mantener privados sus datos neuronales (véase también “Agencia e identidad”). Proponemos las siguientes medidas para garantizarlo.

En el caso de todos los datos neuronales, la opción de no compartirlos debería ser la opción predeterminada y estar protegida con esmero. Las personas renuncian fácilmente a sus derechos de privacidad a favor de proveedores comerciales de servicios, como la navegación por Internet, las redes sociales o el entretenimiento, sin entender del todo a qué están renunciando. Una opción predeterminada de no compartir significaría que los datos neuronales se tratarían de la misma manera que los órganos o los tejidos en la mayoría de los países. Las personas tendrían que optar explícitamente por compartir datos neuronales desde cualquier dispositivo. Esto implicaría un proceso seguro y protegido, incluido un procedimiento de consentimiento que especifique claramente quién utilizará los datos, con qué fines y durante cuánto tiempo.

Incluso con este enfoque, los datos neuronales de muchos usuarios dispuestos a compartirlos, combinados con cantidades masivas de datos no neuronales (de búsquedas en Internet, monitores de actividad física, etc.) podrían utilizarse para extraer conclusiones "suficientemente buenas" sobre las personas que optan por no compartirlos. Para limitar este problema, proponemos que la venta, la transferencia comercial y el uso de los datos neuronales se regulen estrictamente. Esas regulaciones (que también limitarían la posibilidad de que las personas renuncien a sus datos neuronales o de que se escriba actividad neuronal directamente en sus cerebros a cambio de una recompensa económica) pueden ser análogas a la legislación que prohíbe la venta de órganos humanos, como la Ley Nacional de Trasplante de Órganos de los Estados Unidos de 1984.

Otra salvaguardia es restringir el procesamiento centralizado de datos neuronales. Nosotros recomendamos que se utilicen técnicas computacionales, como la privacidad diferencial o el "aprendizaje federado", para proteger la privacidad de los usuarios (véase "Protección de la privacidad"). El uso de otras tecnologías diseñadas específicamente para proteger los datos de las personas también sería de ayuda. Las técnicas basadas en la cadena de bloques, por ejemplo, permiten rastrear y auditar los datos, y los "contratos inteligentes" pueden dar un control transparente sobre cómo se utilizan los datos, sin necesidad de una autoridad centralizada. Por último, los formatos de datos abiertos y el código fuente abierto permitirían una mayor transparencia sobre lo que se mantiene privado y lo que se transmite.

2. Agencia e identidad. Algunas personas que recibieron estimulación cerebral profunda a través de electrodos implantados en el cerebro informaron haber sentido una sensación alterada de agencia e identidad. En un estudio de 2016, un hombre que había usado un estimulador cerebral para tratar su depresión durante siete años informó en un grupo de discusión [9] que comenzó a preguntarse si la forma en que interactuaba con los demás (por ejemplo, si decía algo que, en retrospectiva, pensaba que era inapropiado) se debía al dispositivo, a su depresión o si reflejaba algo más profundo sobre sí mismo. Dijo: “Se desdibuja hasta el punto en que no estoy seguro... francamente, de quién soy”.

Las neurotecnologías podrían claramente alterar el sentido de identidad y de agencia de las personas y sacudir supuestos fundamentales sobre la naturaleza del yo y la responsabilidad personal (legal o moral).

Las personas podrían acabar comportándose de maneras que les resulte difícil asumir como propias si el aprendizaje automático y los dispositivos que interactúan con el cerebro permiten una traducción más rápida entre una intención y una acción, tal vez mediante el uso de una función de "autocompletar" o "autocorrección". Si las personas pueden controlar dispositivos a través de sus pensamientos a grandes distancias, o si varios cerebros están conectados para trabajar en colaboración, nuestra comprensión de quiénes somos y dónde actuamos se verá alterada.

A medida que se desarrollan las neurotecnologías y las corporaciones, los gobiernos y otros comienzan a esforzarse por dotar a las personas de nuevas capacidades, la identidad individual (nuestra integridad física y mental) y la agencia (nuestra capacidad de elegir nuestras acciones) deben protegerse como derechos humanos básicos.

Recomendamos que se incluyan cláusulas que protejan esos derechos (los "neuroderechos") en los tratados internacionales, como la Declaración Universal de Derechos Humanos de 1948. Sin embargo, esto podría no ser suficiente: las declaraciones y leyes internacionales son simplemente acuerdos entre Estados, e incluso la Declaración Universal no es jurídicamente vinculante. Por ello, abogamos por la creación de una convención internacional que defina las acciones prohibidas relacionadas con la neurotecnología y la inteligencia artificial, similar a las prohibiciones enumeradas en la Convención Internacional para la Protección de Todas las Personas contra las Desapariciones Forzadas de 2010. Un grupo de trabajo asociado de las Naciones Unidas podría revisar el cumplimiento de los Estados signatarios y recomendar sanciones cuando sea necesario.

Esas declaraciones también deben proteger el derecho de las personas a recibir información sobre los posibles efectos cognitivos y emocionales de las neurotecnologías. En la actualidad, los formularios de consentimiento suelen centrarse únicamente en los riesgos físicos de la cirugía, en lugar de en los posibles efectos de un dispositivo sobre el estado de ánimo, la personalidad o la autoestima.

3. Aumento. Las personas con frecuencia sufren prejuicios si su cuerpo o cerebro funcionan de manera diferente a la mayoría [10]. La presión para adoptar neurotecnologías que mejoren la capacidad de resistencia o las capacidades sensoriales o mentales de las personas probablemente cambie las normas sociales, plantee cuestiones de acceso equitativo y genere nuevas formas de discriminación.

Además, es fácil imaginar una carrera armamentística de aumento de poder. En los últimos años, hemos escuchado a personal de DARPA y de la Actividad de Proyectos de Investigación Avanzada de Inteligencia de Estados Unidos discutir planes para proporcionar a soldados y analistas capacidades mentales mejoradas ("agentes superinteligentes"). Estas se utilizarían en situaciones de combate y para descifrar mejor los flujos de datos.

Las líneas divisorias que se tracen serán inevitablemente borrosas, dada la dificultad de predecir qué tecnologías tendrán efectos negativos en la vida humana. Pero instamos a que se establezcan directrices tanto a nivel internacional como nacional para fijar límites a las neurotecnologías de mejora que se pueden implementar y para definir los contextos en los que se pueden utilizar, como está sucediendo con la edición genética en humanos.

En algunas culturas se valora más la privacidad y la individualidad que en otras. Por lo tanto, las decisiones regulatorias deben tomarse en un contexto cultural específico, respetando los derechos universales y las pautas globales. Además, la prohibición total de ciertas tecnologías podría simplemente hacer que pasen a la clandestinidad, por lo que los esfuerzos para establecer leyes y regulaciones específicas deben incluir foros organizados que permitan un debate profundo y abierto.

Esas iniciativas deberían basarse en los numerosos precedentes existentes para crear consenso internacional e incorporar la opinión pública a la adopción de decisiones científicas a nivel nacional [11]. Por ejemplo, después de la Primera Guerra Mundial, una conferencia celebrada en 1925 condujo a la elaboración y ratificación del Protocolo de Ginebra, un tratado que prohíbe el uso de armas químicas y biológicas. De manera similar, después de la Segunda Guerra Mundial, se creó la Comisión de Energía Atómica de las Naciones Unidas para ocuparse del uso de la energía atómica con fines pacíficos y para controlar la proliferación de armas nucleares.

En particular, recomendamos que se regule estrictamente el uso de la tecnología neuronal con fines militares. Por razones obvias, cualquier moratoria debería ser mundial y patrocinada por una comisión dirigida por las Naciones Unidas. Aunque esas comisiones y otras iniciativas similares podrían no resolver todos los problemas relacionados con las mejoras, ofrecen el mejor modelo disponible para reconocer públicamente la necesidad de moderación y de una amplia participación en el desarrollo y la aplicación de una tecnología.

4. Sesgo. Cuando las decisiones científicas o tecnológicas se basan en un conjunto estrecho de conceptos y normas sistémicas, estructurales o sociales, la tecnología resultante puede privilegiar a ciertos grupos y perjudicar a otros. Un estudio de 2015 [12] concluyó que las ofertas de empleo que el algoritmo de publicidad de Google muestra a las usuarias femeninas pagan menos que las que se muestran a los hombres. De manera similar, una investigación de ProPublica reveló el año pasado que los algoritmos utilizados por las agencias de aplicación de la ley de Estados Unidos predicen erróneamente que los acusados ​​negros tienen más probabilidades de reincidir que los acusados ​​blancos con antecedentes penales similares (go.nature.com/29aznyw). Estos sesgos podrían incrustarse en dispositivos neuronales. De hecho, los investigadores que han examinado este tipo de casos han demostrado que definir la justicia de una manera matemáticamente rigurosa es muy difícil (go.nature.com/2ztfjt9).

En la industria y en el mundo académico ya se están debatiendo medidas prácticas para contrarrestar los sesgos en las tecnologías. Estos debates y discusiones públicas permanentes son necesarios para dar forma a las definiciones de sesgos problemáticos y, en términos más generales, de normalidad.

Recomendamos que las contramedidas para combatir los sesgos se conviertan en la norma en el aprendizaje automático. También recomendamos que los posibles grupos de usuarios (especialmente aquellos que ya están marginados) participen en el diseño de algoritmos y dispositivos como otra forma de garantizar que los sesgos se aborden desde las primeras etapas del desarrollo de la tecnología.


Neuroingeniería responsable

En muchas de estas recomendaciones se invoca un llamamiento a los investigadores de la industria y del mundo académico para que asuman las responsabilidades que conlleva el diseño de dispositivos y sistemas capaces de generar ese cambio. Para ello, podrían basarse en los marcos que ya se han elaborado para la innovación responsable.

Además de las directrices mencionadas anteriormente, el Consejo de Investigación en Ingeniería y Ciencias Físicas del Reino Unido, por ejemplo, ofrece un marco para alentar a los innovadores a “anticipar, reflexionar, participar y actuar” de maneras que “promuevan... oportunidades para la ciencia y la innovación que sean socialmente deseables y se lleven a cabo en interés público”. Entre los diversos esfuerzos para abordar esto en la IA, la Asociación de Normas IEEE creó una iniciativa ética global en abril de 2016, con el objetivo de incorporar la ética en el diseño de procesos para todos los sistemas autónomos y de IA.

La historia indica que la búsqueda de beneficios suele prevalecer sobre la responsabilidad social en el mundo empresarial. Y aunque, a nivel individual, la mayoría de los tecnólogos se propongan beneficiar a la humanidad, pueden enfrentarse a complejos dilemas éticos para los que no están preparados. Creemos que se podrían modificar las mentalidades y los fabricantes de dispositivos estarían mejor preparados si se incorporara un código de conducta ético en la industria y en el mundo académico.

Un primer paso hacia este objetivo sería exponer a los ingenieros, otros desarrolladores de tecnología y a los investigadores en formación académica a la ética como parte de su formación estándar al incorporarse a una empresa o laboratorio. Se podría enseñar a los empleados a pensar más profundamente sobre cómo lograr avances y aplicar estrategias que probablemente contribuyan de manera constructiva a la sociedad, en lugar de fracturarla.

Este tipo de enfoque seguiría en esencia el que se utiliza en medicina. A los estudiantes de medicina se les enseña sobre la confidencialidad del paciente, la no causar daño y sus deberes de beneficencia y justicia, y se les exige que presten el juramento hipocrático de adherirse a los más altos estándares de la profesión.

Los posibles beneficios clínicos y sociales de las neurotecnologías son enormes. Para aprovecharlos, debemos orientar su desarrollo de una manera que respete, proteja y permita lo mejor de la humanidad.



REFERENCIAS

[1] Kay, K. N., Naselaris, T., Prenger, R. J. & Gallant, J. L. Nature 452, 352–355 (2008).

[2] Goering, S. & Yuste, R. Cell 167, 882–885 (2016).

[3] Sellers, E. W., Vaughan, T. M. & Wolpaw, J. R. Amyotrophic Lateral Sclerosis 11, 449–455 (2010).

[4] Ramakrishnan, A. et al. Sci. Rep. 5, 10767 (2015).

[5] Burget, F. et al. Preprint at http://arxiv.org/abs/1707.06633 (2017).

[6] Hubel, D. H. & Wiesel, T. N. J. Physiol. (Lond.) 160, 106–154 (1962).

[7] Giancardo, L., Sánchez-Ferro, A., Butterworth, I., Mendoza, C. S. & Hooker, J. M. Sci. Rep. 5, 9678 (2015).

[8] Nieto-Reyes, A., Duque, R., Montana, J. L. & Lage, C. Sensors 17, 1679 (2017).

[9] Klein, E. et al. Brain-Computer Interfaces 3, 140–148 (2016).

[10] Parens, E. Shaping Our Selves: On Technology, Flourishing, and a Habit of Thinking (Oxford Univ. Press, 2014).

[11] Kitcher, P. Science in a Democratic Society (Prometheus, 2011).

[12] Datta, A., Tschantz, M. C. & Datta, A. Proc. Priv. Enhancing Technol. 2015, 92–112 (2015).



* Publicado en Nature, 09.11.17.

Venta libros "Oikonomía" y "Reforma e Ilustración"

Oikonomía. Economía Moderna. Economías Oferta  sólo venta directa : $ 12.000.- (IVA incluido) 2da. edición - Ediciones ONG Werquehue - 2020 ...