SciELO - Scientific Electronic Library Online

 
vol.15 número2Análisis predictivo y protencionalidad digital: sobre predicción y anticipación algorítmicasModelos matemáticos generales, objetividad y libre elección índice de autoresíndice de materiabúsqueda de artículos
Home Pagelista alfabética de revistas  

Servicios Personalizados

Revista

Articulo

Indicadores

  • No hay articulos citadosCitado por SciELO

Links relacionados

  • No hay articulos similaresSimilares en SciELO

Compartir


Desde el Sur

versión impresa ISSN 2076-2674versión On-line ISSN 2415-0959

Desde el Sur vol.15 no.2 Lima abr./jun. 2023  Epub 25-Abr-2023

http://dx.doi.org/10.21142/e0022 

Tecnopolíticas contemporáneas

Cuidar las I. A.: aportes de la filosofía feminista de la tecnología para la ciberbioética

Care for AI: Contributions of Feminist Philosophy of Technology to Cyberbioethics

* Universidad Nacional del Sur. Buenos Aires, Argentina. meva.benamo@gmail.com.

RESUMEN

La presente comunicación analiza el nexo entre transformación digital y bioética a partir de aportes de las teorías feministas de la tecnología (TFT). Su objetivo general es enriquecer la discusión filosófica en torno a los desafíos biopolíticos (Bratton, 2021) que piden por una bioética robusta, como la catástrofe ecológica o la medicalización de la vida (Mainetti, 1990). Los objetivos específicos son, en primer lugar, tematizar la necesidad de revitalizar la bioética en términos conceptuales, acercándola a su origen cibernético olvidado (Potter, 1971). Para ello, trabajamos con conceptos como el de "antinaturalismo" (Hester, 2019) o el de "antigenealogía" (Preciado, 2020). En segundo lugar, indagar la llamada "bioetificación" (Calvo, 2019) en tanto eticidad emergente de las mediaciones entre humanxs, algoritmos y naturaleza; para ello, se trabaja con las nociones de "cuidado" (Nurock, 2020) y "dilema" (Gilligan, 1982). En el primer caso, encontramos que las TFT permiten evitar la absolutización moral tanto de la tecnología como de la naturaleza, sin recaer en la relativización absoluta de las mismas. En el segundo caso, mediante el análisis de las inteligencias artificiales (IA) dedicadas al cuidado, encontramos que las TFT clarifican la influencia de los sistemas algorítmicos en el desarrollo de las competencias morales.

Palabras clave: Inteligencia artificial; bioética; cibernética

ABSTRACT

This paper examines the relationship between digital transformation and bioethics, drawing on insights from feminist theories of technology (TFT). The overall aim is to enrich the philosophical debate on biopolitical challenges (Bratton, 2021) that demand a robust bioethics, such as ecological catastrophe or the medicalization of life (Mainetti, 1990). The specific objectives are twofold: firstly, to explore the need to reinvigorate bioethics conceptually by reconnecting it with its neglected cybernetic origins (Potter, 1971), using concepts such as "antinaturalism" (Hester, 2019) and "antigenealogy" (Preciado, 2020). Secondly, to investigate the emergence of a "bioethification" (Calvo, 2019) that reflects the ethics of the mediations between humans, algorithms, and nature, using the notions of "care" (Nurock, 2020) and "dilemma" (Gilligan, 1982). In the first case, TFT allows us to avoid the moral absolutism of both technology and nature, without falling into their absolute relativization. In the second case, by analyzing AI devoted to care, TFT clarifies the impact of algorithmic systems on the development of moral competencies.

Keywords: Artificial intelligence; bioethics; cybernetics

Introducción

Poner de manifiesto una simple actitud moral,

¿acaso creerán que eso pueda bastar,

si esa actitud está totalmente marcada de inercia?

(Artaud, 2005, p. 121)

La bioética contemporánea se encuentra ante el desafío de afrontar la llamada "transformación digital". Fenómenos ecosistémicos como la pandemia provocada por el virus SARS-CoV-2, o la ya perceptible "catástrofe ecológica" (Mainetti, 1990), aceleraron la necesidad de complejizar el abordaje de la disciplina en torno a la digitalización y su incidencia en el ámbito de la salud, pues la misma ocurre de facto2, y se extiende sobre contextos políticos influyendo en aquello que conocemos como "gobernanza" (Bratton, 2021). Para abordar este desafío, es necesario un análisis retrospectivo capaz de recomponer la influencia que otra disciplina, también parte de los cimientos de la transformación digital, tuvo sobre la bioética en su etapa fundacional. Se trata de la cibernética, impulsada inicialmente por Norbert Wiener hacia 1942 (Reynoso, 2006, p. 42), quien la definiera junto al Dr. Rosenblueth como "la teoría del control y la comunicación en animales y máquinas" (Wiener, 2000, p. 11)3. Otro aspecto importante a analizar es la eticidad resultante de la transformación digital en el marco de la bioética aplicada, pues esta pareciera propagarse a otras dimensiones de la cultura, afectando procesos de subjetivación, normativas institucionales, movimientos políticos, etc., en una nueva etapa de la medicalización de la vida (Mainetti, 1990) amplificada por la Web 3.0. Dicha eticidad podría denominarse, siguiendo al italiano Patrici Calvo, "bioetificación" (Calvo, 2019), concepto que refiere al efecto de los procesos de toma de decisiones mediante tecnologías digitales basadas en modelos matemáticos y criterios utilitaristas. Ambos análisis, consideramos, pueden ser enriquecidos desde la mirada de las teorías feministas de la tecnología que son muy pertinentes, como veremos a lo largo del artículo, de cara a la necesaria desmitificación de la problemática biopolítica (Bratton, 2021).

Dicho de un modo más específico, la transformación digital pide por la revisión de los fundamentos de la bioética en los siguientes dos sentidos. En primer lugar, presenta un gran número de dificultades para la corriente bioética mayormente difundida en la actualidad, la principialista4, e invita a retomar la senda inicial de la disciplina imaginada por su fundador Van Rensselaer Potter, esto es, la senda cibernética. Las dificultades aparecen debido a que cuanto más se vuelven ubicuos los ambientes modulados por mediaciones digitales, los dilemas para los que la bioética principia-lista ofrecía un marco resolutorio se ven multiplicados exponencialmente, por lo que emerge la necesidad de un enfoque más amplio para abordarlos. En segundo lugar, las implementaciones tecnológicas que entablan los procesos de "bioetificación" en diversos ámbitos de la cultura señalados por Calvo, como en el funcionamiento de instituciones sanitarias, jurídicas y educativas, producen un tipo de eticidad que tal vez tenga que ser auscultado en su singularidad o novedad potencial, y no desde una mirada disciplinar ya consolidada y trascendente al objeto estudiado. Los sistemas algorítmicos parecen relativizar el peso de la acción humana, y nos invitan a pensar que los ambientes digitales son ecosistemas en los que la agencia está novedosamente distribuida, como también lo están las competencias morales. Así, la bifurcación del análisis, consideramos, denota un efecto paradójico de la transformación digital. Esto es, si bien la implementación de las tecnologías de la información y la comunicación (TIC) parece exponer las limitaciones de la bioética anglosajona para lidiar con los nuevos vínculos entre bios y ethos, multiplican exponencialmente una mirada bioetificada en esos mismos términos, que no solo "juzga" discursivamente, sino que además opera e interviene en el devenir del ecosistema humano, maquínico y natural, mediante sistemas algorítmicos cuya influencia estamos aún muy lejos de comprender cabalmente.

Por lo dicho, en la presente comunicación sintetizamos la paradoja mencionada en dos núcleos temáticos: la necesidad de ampliar el enfoque de la disciplina para poder abordar las relaciones entre las TIC y los procesos psicosociales de los que participan, desde un punto de vista adecuado a los desafíos del presente; y la urgencia de analizar la "bioetificación" promovida por los sistemas algorítmicos, con especial atención al vínculo entre esta y su posible tendencia al estrechamiento de las competencias morales. Nos proponemos abordar estos núcleos temáticos desde el marco de las TFT, especialmente a través de algunos desarrollos que corresponden al periodo caracterizado como "tercera ola" del feminismo. Las TFT, expresión académica de un sector del movimiento feminista, han profundizado largamente en algunos de los ejes conceptuales necesarios para abordar esta problemática. Pese a la marginación a la que con frecuencia son relegadas en los cánones académicos5 (Torrano y Fischetti, 2020), y pese a la heterogeneidad de sus enfoques, las teorías feministas de la tecnología se han ocupado seriamente de articular la relación entre tecnologías y sistemas hegemónicos como el patriarcal, el colonial y el capitalista, así como de buscar las posibilidades emancipatorias que estas ofrecen y de estudiar la imbricación entre ellas y fenómenos biológicos tales como la tríada favorita de la bioética: nacer, procrear y morir. Tópicos largamente explorados como las condiciones de la subalternidad en términos políticos, la concepción ontológica y técnica de la identidad y la urgencia de la interseccionalidad necesaria para elaborar enfoques epistemológicos situados y ecosistémicos, hacen que las reflexiones de estas teorías sean muy pertinentes a la hora de considerar en detalle los efectos de un mundo enhebrado entre biomoléculas, tradiciones culturales, políticas, algoritmos y eticidad distribuida.

Respecto del primer polo de nuestra paradoja, de cara a la necesidad de ampliar la mirada filosófica de la bioética, revisaremos en el primer apartado de este artículo algunas ideas del fundador de la bioética, Van Rensselaer Potter, en torno a la cibernética. Vincularemos su propuesta con la de los padres mismos de esta disciplina, Norbert Wiener y Arturo Rosenblueth, en función de mostrar la pertinencia de la mirada de las TFT en la tematización del problema. En el segundo apartado, seleccionamos algunas ideas de la corriente posfeminista conformada por pensadoras que, si bien manifiestan divergencias en cuanto a posiciones conceptuales o estilos filosóficos, comparten problemáticas afines que resultan pertinentes para nuestro tema. Tomaremos principalmente la noción "antinaturalismo" de Helen Hester, filósofa que forma parte del colectivo fundador de la corriente aceleracionista denominada "xenofeminismo", con el objetivo de relevar su mirada sobre el vínculo naturaleza y cultura. Para el otro polo de nuestra paradoja y de cara a la necesidad de indagar la eticidad emergente de la relación entre bioética y sistemas algorítmicos que hemos llamado junto a Calvo "bioetificación", exploraremos en el tercer apartado las nociones de "cuidado" y "dilema", propuestas inicialmente por Carol Gilligan y retomadas por Vanessa Nurock en su artículo "¿Puede prestar cuidados la inteligencia artificial?". El objetivo general de esta comunicación es vincular aportes de la TFT que consideramos pertinentes para analizar la tensión entre la bioética y la transformación digital, en un abordaje equilibrado que no sacralice ni demonice sistemas algorítmicos como las IA, sino que colabore con identificar la eticidad necesaria para abordar los desafíos biopolíticos del presente. La conceptualización de la relación entre naturaleza y técnica desde la mirada posfeminista, así como la pregunta por la dilemática que elaboran los feminismos del cuidado, son grandes aportes que nos permiten auscultar las implicancias éticas de la transformación digital en el ámbito de la bioética, pero también invitan a delinear un punto de vista ético saludable para la biopolítica contemporánea, cuya modulación se ejerce a través, y gracias a, la ubicuidad de ambientes técnicos, en los cuales los potenciales emancipatorios aún están disputándose.

El enfoque cibernético de la bioética

En 1970, el bioquímico Van Rensselaer Potter publicó un artículo intitulado "Bioethics: the science of survival", en el que acuñó el término bioética y clamó por una disciplina capaz de reorientar los esfuerzos científicos de cara al ya inminente "colapso ecológico". La ética, argumenta Potter, viene siendo considerada una "provincia de las humanidades", mientras que las ciencias -en su vertiginosa especialización-, le dedican poco tiempo a la dimensión axiológica de sus tareas. Se necesita con urgencia, señala, "un conocimiento de cómo usar el conocimiento", que esté compuesto por los "dos ingredientes más importantes para lograr la nueva sabiduría que tan desesperadamente necesitamos: conocimiento biológico y valores humanos" (Potter, 1970, p. 128). Su propuesta es conocida en algunos aspectos, y la obra de 1971, Bioethics: bridge to the future, que recoge el artículo citado y varios más, es referencia frecuente cuando se habla de "los pioneros" de la bioética. Sin embargo, su perspectiva no es la que abarrota los anaqueles de la disciplina que imaginó. La bioética triunfante adquirió un formato cuasi convencionalista6, en el que la pregunta por la relación entre bios y ethos pasó a ser interpretada como la pregunta por la acción moral correcta en situaciones dilemáticas. Así, fue desatendida la "nueva sabiduría", o, dicho de otro modo, la dimensión reflexiva del conocimiento con la que Potter aludía a la causalidad recurrente necesaria entre hechos y valores para el análisis de la acción. Para el bioquímico, se trata de posibilitar un "retorno" del conocimiento, una potenciación inter e intra saberes y no de una adhesión o amontonamiento. En este sentido, la bioética no es una ética aplicada a problemas biológicos o técnicos ni viceversa, sino que implica un tipo de causalidad particular entre esas dimensiones. Este tipo causalidad es la que Potter toma de la cibernética: la definición de "un conocimiento de cómo usar el conocimiento" implica que "la bioética es un enfoque cibernético para la búsqueda de sabiduría" (Potter, 1975, p. 2297).

La cibernética, denominada así en 1947 por sus fundadores Norbert Wiener y Arturo Rosenblueth, es el estudio del control y de la causalidad o retroalimentación (feedback) de los sistemas tanto maquínicos como vivientes en su relación con el entorno. El término deriva etimológicamente, al igual que el vocablo gobierno, de la palabra griega kybernē´tēs, que significa "timonel". Mediante su selección, los pensadores han buscado aludir a los estudios que consideraron antecedentes a los suyos, esto es, la ingeniería naval y las ideas en torno a los governors de Clerk Maxwell (Wiener, 2000, p. 11). Wiener y Rosenblueth arribaron a la necesidad de fundar esta disciplina luego de tematizar la relación entre "comportamiento, propósito y teleología", investigación sintetizada en un artículo de 1943, en el que trabajaron junto con Julian Bigelow y que lleva ese mismo nombre (Rosenblueth et al., 1943). En él, mediante la introducción del concepto de feedback negativo, Wiener y equipo revolucionaron el alcance concreto de la noción de causalidad y propusieron un modelo que llamaron "método funcional alternativo" (Rosenblueth et al., 1943, p. 195), en declarada tensión con el "estudio conductual de eventos naturales", que definía la conducta como "cualquier cambio que se produzca en una entidad respecto a su entorno". Según ellos, el conductismo omite la organización intrínseca y la estructura específica del objeto estudiado, lo cual deriva en una definición de comportamiento tan amplia que es incapaz de identificar si los cambios observados se deben a un estímulo recibido del exterior, o a la emisión propia de dicho objeto. Una base para comprender estos cambios y clasificar la conducta, dicen los autores, podría ser la consideración de la energía involucrada en la acción (Rosenblueth et al., 1943, p. 195). Para desarrollar dicho postulado argumentan que en el comportamiento deliberado y orientado a una "meta", es la "condición final" la que permite que el objeto arribe a "una correlación definitiva en tiempo y espacio con respecto a otro objeto o evento" (Rosenblueth et al., 1943, p. 196). El ejemplo dado allí es el simple gesto de tomar un vaso de agua, a través del cual muestran que el propósito implícito en los actos voluntarios "no es una interpretación arbitraria, sino más bien una realidad fisiológica".

Desde esta perspectiva, la noción de propósito les permite además considerar la actividad de las máquinas. Aunque no será cualquier máquina la que exhiba este comportamiento, sino tan solo aquellas en las que la causa final es intrínseca a la acción, como el caso de un torpedo con un mecanismo de guía automática. El concepto de "retroalimentación" (feedback) emerge en estos análisis y refiere entonces a la acción según la cual la energía emitida retorna como estímulo para la misma acción. En el caso en que la fracción de la emisión que retorna sea de la misma índole que la señal original, se tratará de una retroalimentación positiva en la cual no hay "corrección" de esta, sino más bien una sinergia energética. Sin embargo, cuando tenemos una retroalimentación en la que las señales emitidas por el objetivo modifican la actividad del objeto en el trayecto de comportamiento, estamos frente a una retroalimentación negativa, en la que el objeto "controla" o "regula" sus emisiones para no rebasar el objetivo7. Cabe señalar que este énfasis en los mecanismos de regulación, así como en la relación entre meta y comportamiento, es causa para algunos pensadores contemporáneos de la deriva tanatológica de la vida imbuida entre las técnicas. El Colectivo Tiqqun, por ejemplo, sostiene que bajo el manto del discurso cibernético que supo "mandar al rincón" (Tiqqun, 2015, p. 37) los viejos debates entre mecanicistas y vitalistas, "la experimentación científica se lanzó a hacer de los seres vivos una mecánica, a dominar, programar, determinar al ser humano y a la vida, la sociedad y su devenir" (Tiqqun, 2015, p. 37). Es decir, han triunfado las regulaciones en una suerte de obsesión por el control de los flujos, para la que ellos proponen un llamado a la "opacidad" como forma de resistencia. No podremos abordar sus argumentos en esta breve comunicación, pero acordamos con ellos en que los automatismos, las profilaxis contra riesgos que causan más riesgos y una versión antitética al humanismo que por tanto continúa el pathos humanista de la modernidad (Tiqqun, 2015, p. 30), están hoy a la orden del día. Sin embargo, disentimos en que la deriva tanatológica es la única deriva posible de las ideas de la cibernética. Este sea tal vez el caso de las ideas de Potter, quien plantea la necesidad de orientarnos en favor de la supervivencia, no según un presupuesto moral que reproduzca la racionalidad del optimismo técnico precedente, pero tampoco según la reproducción de su moral antitética, esto es, la mirada tecnofóbica.

La posición de Potter respecto de las técnicas parece ser más bien una posición farmacológica (Stiegler, 2021), esto es, con énfasis en la ambivalencia axiológica de los efectos de la acción. El dilema no es, escribe Potter, "manipular o no manipular" (Potter, 1970, p. 137), puesto que ya hemos manipulado a escalas colosales. Arriba a esta posición estudiando durante 30 años mutaciones genéticas, canalizaciones enzimáticas, reacciones fisiológicas asociadas a la polución, etc., e insiste en varias de sus obras que, como especialista en oncología, le impactó descubrir que el comportamiento de células cancerígenas ofrece una analogía posible con la relación entre el hombre y la naturaleza: cuanto más progresa una parte de un organismo indefinidamente, más se daña la posibilidad de supervivencia del mismo organismo. En este sentido, advierte que el progreso de un elemento individual desacoplado de su entorno u ambiente ya no puede ser valorado positivamente sin mayor análisis, puesto que el efecto del mismo progreso puede ser ambivalente. Es por ello que otorga gran importancia al concepto de feedback, y considera que son los valores con los que distribuimos el conocimiento los que tienen que ser revisados, para que se puedan incorporar, retornando, los efectos de la acción en la postulación de sus fundamentos. Para este autor, además, las soluciones únicamente tecnológicas, como el caso de pesticidas y herbicidas que han logrado aumentar la producción de alimentos exponencialmente, muestran que, si bien pueden resolver problemas a corto plazo, en muchos casos se comportan como un pharmakon; esto es, adquieren sentido ambivalente en la medida en que implican a su vez nuevas amenazas, a veces modificando el entorno y provocando transformaciones en las condiciones ambientales para las que tanto biológica como culturalmente ya existía cierta adaptación.

Así, siguiendo las ideas de Potter, se trata de comprender que los problemas éticos asociados a la transformación digital no remiten únicamente a los efectos o errores intrínsecos de tecnologías específicas, sino a la relación ambivalente ya de suyo existente entre naturaleza y técnica. La humanidad no solo modifica la naturaleza para adaptarse a ella, sino que la naturaleza técnicamente modificada transforma la humanidad, en algunos casos mediante un nuevo tipo de agencia que aún estamos lejos de comprender. En sentido similar, José Mainetti, bioético latinoamericano cuya mirada bien podría ser considerada potteriana, dirá que es "el rostro jánico del progreso" el que devela el carácter ambivalente del ethos humano a través del sentido pigmaliónico de la técnica. Mainetti define el sentido contemporáneo de la técnica según su carácter antropoplástico, esto es, aludiendo a la revolución técnica y científica que permite al hombre "esculpir la propia naturaleza" (Mainetti, 1990, p. 11) cuasi artísticamente, modificando la propia biología. En este sentido, la bioética debe retomar la senda de amplitud para la cual fue concebida, en la cual el carácter ambivalente tanto de los hechos somáticos, técnicos y ambientales, como de los valores y normatividades involucrados en distintos tipos de causalidades, fueron tomados como punto de partida para la reflexión. Analizaremos a continuación posibles abordajes del vínculo entre naturaleza y técnica, mediante las teorías feministas de la tecnología.

Antinaturalismo y el arte de esculpir la propia naturaleza

Existe cierto consenso que ubica temporalmente las primeras investigaciones feministas sobre la tecnología en la década de 1970. Estas investigaciones acompañaron el desarrollo paulatino tanto de los distintos feminismos como de las propias tecnologías. Según Vergés Bosch, pensadoras anglosajonas radicales como Shulamith Firestone (Bosch, 2013, p. 4) o liberales como Autumn Stanley fueron las que iniciaron la investigación sobre el vínculo entre mujeres, tecnología y sus posibilidades emancipatorias. Todo ello en función de las ideas de los feminismos de la década de 1960, usualmente caracterizados como "segunda ola". En ambos casos se enfatiza en temas que aún hoy son parte de nuestras inquietudes, como la visibilización y mejora de la representación de las mujeres en la ciencia (Stanley, 1983), las causas biológicas de la subordinación entre hombres y mujeres, y su posible o imposible disolución mediante las tecnologías dedicadas a las tareas del hogar o al control de la reproducción (Firestone, 1970). Estas corrientes concebían que la tecnología era "neutral" en el sentido de que, si bien podían estar al servicio del patriarcado y reproducirlo para algunas, o podrían ser recuperadas al servicio de la causa feminista para otras, aún se la interpretaba como una herramienta disponible, sin penetrar en la discusión interna de sus normatividades, de su diseño, ni de la performatividad de sus operaciones. Como señala Bosch, podríamos decir que, para estas feministas de la segunda ola, "la responsabilidad del cambio recaía en las mismas mujeres" (Bosch, 2013, p. 5).

Sin embargo, rápidamente, distintas pensadoras, entre las que se encuentran las feministas socialistas como Judy Wajcman, advirtieron que la visión neutral de la tecnología implicaba cierto determinismo incapaz de advertir que estaba profundamente genderizada. Estas ideas provocaron un amplio desplazamiento en las condiciones del problema, en la medida en que ya no se trataba de adecuar el feminismo a la tecnología, sino de pensar la tecnología como un fenómeno afectado por relaciones y problemas estudiados por el feminismo. Así, "se produce un giro de la cuestión de la tecnología dentro del feminismo, y también, desde el paradigma de la mujer en la tecnología, al del género y la tecnología y la tecnología genderizada" (Bosch, 2013, p. 5). Durante los años 90, tanto la "unicidad del concepto mujer" (Torrano y Fischetti, 2020, p. 56), así como la unicidad del concepto "tecnología", empezaron a desplazarse lentamente y dejaron de ser el punto de partida las reflexiones de las distintas TFT; desplazamiento que viró hacia la perspectiva hoy conocida como "posfeminista". Corrientes como el ciberfeminismo de la primera ola, aún un poco esencialistas y deterministas (Bosch, 2013, p. 5), surgieron al calor del entusiasmo que trajo la aparición a gran escala de las TIC, y la promesa del ciberespacio: un nuevo territorio a explorar que aún no había sido tramado según la lógica patriarcal, y que más bien parecía corresponder, como afirmaba Sadie Plant, a esfuerzos realizados por mujeres y a potenciales virtudes "femeninas", capaces de desdibujar los límites entre géneros, territorios y relaciones de poder. Los ciberfeminismos de la tercera ola matizaron un poco esta mirada tecnofílica, pero continuaron muchas de sus discusiones y predicamentos.

El concepto que nos interesa retomar aquí pertenece a la etapa presente del posfeminismo, que fuera definida por el colectivo de pensadoras Laboria Cuboniks como "xenofeminismo". Se trata del concepto de "antinaturalismo", que desarrolla Helen Hester en su variante interpretativa de esta corriente. Con dicha noción, la autora define su posición respecto del dualismo naturaleza-técnica, posición que pareciera estar en sintonía punto a punto la perspectiva que V. R. Potter buscó implementar al imaginar la bioética. Para Hester, el xenofeminismo entiende que la naturaleza y lo natural son "espacios de confrontación" carentes de sacralidad (Hester, 2019, p. 30). Esto es, no son espacios sagrados que preservar para proteger el statu quo de aquello que esencialmente fuera definido como "femenino", según querrían ciertos feminismos culturales o ecológicos. La autora considera que cualquier proyecto ligado a la idea de naturaleza como límite "pseudoteológico", aunque esté orientado a preservarnos de los abusos que las tecnologías producen bajo las condiciones capitalistas -como en el caso de las técnicas reproductivas que derivan en violencia obstetricia-, corre el riesgo de "prestarle grandes recursos conceptuales al castigo conservador que pesa sobre la diferencia radical" (Hester, 2019, p. 30). Como se desprende de esta cita, Hester entiende que sin la necesidad de ser ingenuxs respecto de las virtudes inherentes de las tecnologías, se comprende que estas permiten hacer del cuerpo un espacio de intervención ético-política, que en lugar clausurar la diferencia, potencia devenires tal vez aún impensables y que no necesariamente tienen por qué reproducir el estado de cosas corriente.

En este sentido, el tributo al carácter antropoplástico de la tecnología contemporánea no implica que la biología o la mirada ecosistémica deba estar ausente de las reflexiones xenofeministas, sino más bien lo contrario. No se trata de replegarse radicalmente a una posición constructivista, ni de negar que la realidad encarnada tenga un sustrato biológico: "El hecho de que nos declaremos antinaturalistas no supone que desconozcamos la existencia de fenómenos mensurables, y/o espontáneos que estructuran nuestro mundo, generan efectos observables y modelan nuestro horizonte de posibilidad" (Hester, 2019, p. 31). Lo que sucede es que el xenofeminismo no interpreta la biología como un destino, sino que quiere re-capturarla para las teorías feministas, pensando en la parcial "mutabilidad constitutiva de los cuerpos, las identidades y los distintos procesos que contribuyen a moldearlos" (Hester, 2018, p. 32). Esta mirada supone caracterizar la biología como un "sujeto de cambio por derecho propio", con lo cual quedarían desestimadas también las posiciones que deslegitiman al constructivismo desde el punto de vista biologicista radical. Así, el xenofeminismo "piensa a la tecnología como herramienta para el activismo de género" (Hester, 2019, p. 20), pero también como un "ámbito de potencial intervención feminista" (Hester, 2019, p. 21)8. En este sentido, Hester también analiza el pasaje de la autoayuda al "transfeminismo", destacando la posibilidad de autoexperimentación propuesta por Paul Preciado (Preciado, 2017) y su vínculo con los movimientos de software libre o de código abierto en relación con la salud de las personas trans (Hester, 2019, p. 88). Paul Preciado es unx pensadxr ineludible en los temas que nos ocupan, pues también recupera la biología en su íntima variabilidad, de cara a su vínculo con la técnica y la cultura. Por ejemplo, en una conferencia impartida ante l'École de la Cause freudienne en París9, Preciado afirma:

la transición de género es una antigenealogía. Se trata de activar los genes cuya expresión había quedado cancelada [...] Hacer una transición es comprender que los códigos de la masculinidad y la feminidad que conocemos en nuestras sociedades modernas son anecdóticos comparados con la infinita variación de las modalidades de existencia de la vida (Preciado, 2020, p. 49).

En un sentido similar, apelando al concepto de antinaturalismo así desarrollado, Hester se declara "hija desobediente" de la ciborgfeminista Donna Haraway (Hester, 2019, p. 31). Le adjudica a esta última una postura cercana al constructivismo y, por ende, a la mirada de la complejidad que piensa modelos sistémicos de autoorganización, más lindantes con la espontaneidad de la aparición de normatividad biológica, que con el determinismo duro de un biologicismo. Retomamos esta afirmación puesto que nos interesa señalar que existe cierta tensión entre la mirada antinaturalista y las posiciones autopoiéticas ligadas a la cibernética denominada de "segundo orden"10. Sin embargo, con respecto a Haraway, cabe destacar que esta lectura de Hester sea tal vez correcta respecto de la primera etapa del feminismo ciborg, pero que la posición de la autora parece haberse desplazado. En su reciente obra Seguir con el problema, Haraway desarrolla el concepto de "simpoiesis" (Haraway, 2021), con el que busca justamente distanciarse de la noción de autopoiesis, y se ocupa de pensar una cibernética compuesta por sistemas abiertos y por mutaciones dadas en sus elementos en permanente interacción interna y externa. Escribe Haraway: "Los sistemas autopoieticos son interesantísimos [...] pero no son modelos suficientemente buenos para el mundo SF mortal" (Haraway, 2021, p. 63).

Por lo dicho hasta aquí, consideramos siguiendo a Hester que para abordar cualquier problema ético-político en el seno de los ambientes técnicos contemporáneos, se requiere comprender que el vínculo entre naturaleza y técnica, se juega en el terreno de la dinámica, la mutabilidad y del tipo de organización presentes en dicho vínculo: esto es, se juega en un terreno en el que ni la naturaleza ni la técnica son esencialmente determinantes, pero tampoco están arrojadas a la espontaneidad de cualquier variación. El esfuerzo de comprensión entonces tendrá que ser un esfuerzo híbrido, multisistémico y orientado mediante la conciencia de la contingencia de su propia constitución ambivalente, tal y como hubiera querido el fundador de la bioética, Van Rensselaer Potter. Este mismo devenir ambivalente parece ser el que porta, en la actualidad, la transformación digital en el campo de la bioética.

En esta dirección, los pensadores contemporáneos Brent Mittelstadt y Luciano Floridi, en el marco de su excelente mapeo sobre los debates asociados al binomio ética e inteligencia artificial, señalan que la transformación digital no solo presenta desafíos éticos según fallas inherentes -epistemológicas o técnicas- de los algoritmos mismos o de sus diseñadores, sino que también poseen "efectos transformativos", esto es: los algoritmos son capaces de "afectar cómo conceptualizamos el mundo, y modificar su organización política y social" (Mittelstadt et al., 2016, p. 5). Según dichos autores, algunas inteligencias artificiales, como por ejemplo las técnicas de perfilización, reontologizan el mundo al conceptualizarlo de formas inesperadas, promoviendo y motivando acciones basadas en esos puntos de vista. En este sentido, se comprende la algoritmización de la bioética y su retorno sobre las competencias morales que señalaba Calvo bajo el término "bioetificación", es decir, bajo el

proceso por el cual se almacenan, cruzan y procesan datos masivos sobre las opiniones, preferencias y comportamientos de los usuarios hiperconectados del sistema ciberfísico asistencial para, desde un criterio utilitarista, determinar mediante modelos matemáticos qué es moralmente válido (Calvo, 2019, p. 160).

El retorno "bioetificado" de las acciones en el marco de entornos digitales, condiciona, según Calvo y los autores mencionados, procesos que hasta entonces eran analizados de acuerdo con otros esquemas. En este sentido, mediante la inclusión de los sistemas algorítimicos como auxiliares bioéticos, parecieran estrecharse, en lugar de ampliarse, las competencias morales en juego, ya sea de las instituciones y sus prerrogativas, como de sus usuarixs y miembrxs. Analizaremos esta deriva tanatológica de la eticidad a continuación en el tercer y último apartado de esta comunicación.

A. I. don't care: cuidado versus dilema

La posible reducción de las competencias morales por parte de las IA es tematizada específicamente por Vanessa Nurock en el artículo mencionado, "¿Puede prestar cuidados la inteligencia artificial?". Allí, la autora indaga la dimensión subjetiva de las TIC dotadas de IA desde una perspectiva de género anclada en la corriente filosófica denominada "ética del cuidado"11. Nurock considera necesario abordar la conexión entre género e IA atendiendo al influjo que esta parece tener en los procesos subjetivación, influjo que en muchos casos comporta sesgos y prolonga hábitos estructurales que con frecuencia son desatendidos incluso por otros análisis con perspectiva de género. Estos análisis, argumenta, si bien se dedican a indagar dichos sesgos, tienen un problema y es que los remiten a razones coyunturales; esto es así porque interpretan que las IA son en esencia objetivas y neutrales. Tensionando con esta creencia, la autora propone reconocer el carácter estructural de algunos de esos sesgos -como los que llama sesgos patriarcales- en el estudio de los sistemas algorítmicos dotados de inteligencia artificial. Propone también profundizar en el concepto de "mirada codificada" (coded gaze), mirada que -para ella- proyecta sobre la subjetividad una relación de doble sentido, una afectación mutua, que es la piedra de toque de su argumento. Retoma esta noción de Joy Buolamwini, quien la coloca en relación directa con las de "mirada colonialista" y "mirada masculina", y las define como "visiones del mundo" que se imponen y traman relaciones de poder asimétricas y subalternantes. Pero Nurock subraya la necesidad de añadirle al concepto una dimensión más, aquella en la cual la mirada no es únicamente una "máquina de ver", sino también una "máquina de prescribir" (Nurock, 2020, p. 219).

La preocupación de Nurock parte de una intuición inquietante: lejos de ayudar a la toma de decisiones imparciales y objetivas, las IA no solo reflejan desigualdades e injusticias de toda índole ya inscriptas en el derrotero subjetivo de las sociedades actuales, sino que también las refuerzan. Así, la pretendida "neutralidad" de los algoritmos de aprendizaje es postulada como una "artificialización"12 capaz de "naturalizar" en el dominio de lo objetivo, posiciones éticas que son más bien subjetivas y que, además, prescriben formas de subjetivación y objetivación que suelen pasar desapercibidas. Los ejemplos generales que utiliza para plantear el problema son también amplios y variados. No se remite únicamente a las IA que más notoriamente podrían transferir sesgos en sus decisiones, como aquellas que participan en la asignación de recursos sanitarios o las que participan en procesos judiciales, sino que selecciona sistemas técnicos en apariencia inofensivos como las conocidas asistentes personales, que, según sostiene, prolongan la relación entre lo femenino y la subalternidad. Para Nurock, entonces, el análisis de la relación entre procesos de subjetivación y algoritmos desde la perspectiva de género debe tener en cuenta el sentido que es usualmente abordado como la "masculinización" de las IA, a partir de los sesgos que han sido transferidos a ellas; pero debe, principalmente, atender a la codificación o influencia que las IA podrían efectuar a nivel psicosocial, en función de lo que llama la "dimensión prescriptiva" (Nurock, 2020, p. 219) de este tipo de algoritmos y que parece coincidir con la operación que hasta aquí hemos llamado "bioetificación".

Ahora bien, el artículo tematiza la utilización de las IA en tanto "reto social, ético y político" (Nurock, 2020, p. 219) desde una noción concreta: la noción de "cuidado". El marco teórico sobre el que se sustenta la propuesta remite principalmente a la corriente filosófica y feminista en su origen, denominada "ética del cuidado". Para definir los distintos sentidos del cuidado, Nurock cita la tipificación propuesta por Joan Tronto (2013), pensadora que lo define como

una forma de ética y de política no imparcial sino relacional, altruista sin abnegación e integrando todos los aspectos de los diversos significados del cuidado: preocuparse por (care about), ocuparse de (care for), la relación entre dispensador y receptor del cuidado (care giver/ receiver), pero también el hecho de prestar atención a las estructuras democráticas (care with) (Tronto, 2013).

La noción de cuidado también es referenciada desde las ideas de una de las pioneras de esta corriente, Carol Gilligan, quien en su libro canónico In a different voice desarrolló ese concepto cuestionando los sesgos que, en el ámbito de la medicina, adjudicaban facultades subjetivas como la empatía o la sensibilidad a las mujeres, mientras que a los hombres les asignaban la facultad del raciocinio, la imparcialidad, la moralidad, etc. El argumento de Gilligan que más le interesa a Nurock es su problematización del concepto de "dilema", al cual remite explícitamente para explicar por qué las máquinas morales reducen y automatizan la eticidad en lugar de ampliarla (Nurock, 2020, p. 225). Según Gilligan, los dilemas utilizados como herramientas para el análisis del desarrollo moral no hacen más que encerrarnos en callejones sin salida, obturando la posibilidad de encontrar vías alternativas o compuestas por los elementos en tensión para la resolución de problemas. Estos dilemas13 enseñan principalmente la concepción utilitarista de la ética, en la que la acción es juzgada moralmente correcta en función de sus consecuencias. Respecto al uso de la dilemática en estos términos, podríamos afirmar, siguiendo a Nurock y a Gilligan, que mientras nosotros les enseñamos a las IA a elegir entre el menor de dos males, el acto retorna enseñándonos a nosotros a reducir situaciones complejas a esquemas binarios. Es en este sentido político en el que debe comprenderse el hilo conductor sobre el que gravita la pregunta específica que intitula el artículo, "¿puede prestar cuidados la inteligencia artificial?": lo que le interesa a la autora es la distribución de la agencia en tanto potencia de acción y su influencia en la subjetivación.

En esta dirección, Nurock analiza en detalle dos casos que considera paradigmáticos. El primero se trata de artefactos dotados de IA ubicados en la intersección entre afecto y cuidado -robots utilizados para fines parentales y sanitarios-; el segundo caso refiere a las llamadas "máquinas morales" con las que se da curso al siempre vigente intento de automatizar la moral. Ambos ejemplos le permiten insertar en la problemática descripta la pregunta por el cuidado, la cual ilustra y completa el argumento en favor de la mirada codificada y prescriptiva mencionada. Estos ejemplos, además, le permiten sostener que, de cara a los retos propiciados por las IA, no basta con atacar el diseño o las características objetivas de estos sistemas, sino que también es necesario retornar sobre nuestras modalidades de relación con ellas y aun sobre la noción misma de cuidado y sus determinaciones ético-políticas. Movimiento de retorno sobre los productos de la tecnociencia, que coincide con aquel objetivo que, como señalábamos, Potter propuso para la bioética. Esta es una de las aristas más interesantes de la apuesta de Nurock y tal vez su punto de llegada: tematiza los riesgos para los modos de existencia de la eticidad que emergerían si insistimos en delegar en las IA nuestras competencias éticas, desde el punto de vista de la politicidad general del ensamblaje completo entre humanxs, naturaleza y técnicas. La autora afirma que no es rol de las IA el de proporcionar cuidados, y que por ello es que deberíamos poner más atención a cómo interpretamos el cuidado y la eticidad misma en este tipo de hibridación, y no únicamente a si las IA son justas o morales en sus prescripciones. El riesgo de delegar en las IA el ejercicio de la moralidad consiste entonces en estrechar nuestras competencias morales de manera significativa, no tanto porque ellas en sí mismas sean o amorales o inmorales, sino más bien porque la mirada codificada que opera de estos modos, y no de otros, parece imponer o propagar una forma de la eticidad y una visión del mundo dilemática y binaria.

Finalmente, cabe señalar que el análisis de las IA específicas orientadas al cuidado colabora con el estudio del vínculo entre transformación digital y la problemática bioética, dado que nos devuelve conclusiones en torno a la dimensión ético-política de la implementación de estas: revela la pregunta por la pertinencia de mirada utilitarista en tanto fundamento ético del buen gobierno en épocas de crisis. Como señalara Benjamin Bratton, los problemas de gobernanza que presenta la actualidad son de vida o muerte, esto es, son biopolíticos, por lo que abordarlos desde una perspectiva vitalista al estilo laizzes-faire no sería más que confiar en un "cuento de hadas" (Bratton, 2021, p. 15). Para este autor, una respuesta exitosa ante desafíos como la covid-19 o la catástrofe ecológica requiere de una sociedad planetaria capaz de gobernarse a sí misma mediante una mirada biopolítica "en sentido positivo", que no diluya la responsabilidad colectiva ante la autonomía de los individuos. Bratton sugiere desmitificar la noción "biopolítica", desacoplándola de la interpretación negativa de conceptos como el de "vigilancia" o "control", con el objetivo de explorar los efectos positivos que esta modalidad de gobierno podría tener si se la orientase a promover y proteger la vida, aun ante el reconocimiento de que la muerte forma parte de ella. En este sentido, las TIC podrían ser instrumentos y, por qué no, agentes de la creatividad que tanto precisamos para resolver los problemas que enfrentamos, siempre y cuando sean sometidas a un riguroso escrutinio por parte de una bioética que recoja su origen cibernético y se oriente mediante la noción de cuidado aquí tratada.

Conclusiones: la mediación algorítmica y el arte de bioetizar la politicidad

En la presente comunicación nos propusimos vincular aportes de las teorías feministas de la tecnología al problema de la relación entre la transformación digital y la bioética, a partir de una paradoja diseccionada en dos núcleos temáticos: la necesidad de revitalizar la bioética en términos conceptuales acercándola a su origen cibernético, y la necesidad de comprender bioetificación como efecto ético-político de las mediaciones algorítmicas entre humanxs, técnica y naturaleza.

Según lo expuesto en el primer caso, consideramos que la bioética tiene que evitar la caracterización moral o absoluta de la tecnología y de los ecosistemas que la permiten. Es en la realidad sistémica de las mediaciones psicosociotecnológicas con la naturaleza en donde hay que estimar el sentido axiológico de los elementos partícipes del ensamblaje contingente, heterogéneo y siempre situado que vamos siendo y que vincula de un modo especial la tríada entre comportamiento, propósito y causalidad. En este sentido nos parece muy pertinente la posición antinaturalista de Hester, Preciado, Haraway y de otras colegas posfeministas. El esfuerzo que realizan al tematizar el vínculo entre naturaleza y técnica permite eludir dos vías de investigación en las cuales la bioética pierde robustez para analizar el presente y se aleja, además, de su mirada cibernética inicial: la primera es la que pretende recostarse en principios morales trascendentes o cuasi teológicos con los que interpreta la biología y la tecnología, desestimando las interacciones micro y macrosistémicas que le son inherentes y la modifican. Esta posición termina encapsulando la mutabilidad tecnosomática, aplastando la biodiversidad y cerrándole el camino a la diversidad noética o de pensamiento (Stiegler, 2021) necesaria para la supervivencia y calidad de vida en el planeta; la segunda vía es la de una bioética que interpreta que la biología es un absolutismo determinista y que la capacidad artística de resistir y transformar las amenazas para la supervivencia en el planeta, es únicamente potestad de la sociabilidad y del quehacer humano por fuera de la tecnología. Estas interpretaciones, en vez de enriquecer la mirada bioética para abordar los desafíos contemporáneos, incomunican y obturan la comprensión de las mediaciones entre las dimensiones a las que ella debería dirigirse: el bios, el technos y el ethos. Así, el antinaturalismo posfeminista abona el camino hacia una bioética más amplia que la principalista, en sintonía con la propuesta cibernética y fundacional de V. R. Potter. Esta bioética sería capaz de captar la mutabilidad, causalidad y multiplicidad de los sistemas y sus interacciones, en términos de fluidez y contingencia, pero también en términos modelables, mensurables y anclados en la virtualidad misma de la naturaleza encarnada, situada, ambivalente y no en sus posibilidades abstractas.

Para el segundo polo de nuestra paradoja, de cara al desafío de la bioetificación algorítmica, concluimos que es enriquecedor tener presente la noción de cuidado tal y como la presenta Vanessa Nurock. Esta noción permite sostener que la racionalidad actual que aportan las IA no puede ser el único insumo a la hora de tomar decisiones, puesto que se trata de un tipo de racionalidad que despliega una eticidad utilitarista carente de reflexividad sobre los efectos de las acciones que implementa. Las IA, según las ideas de Nurock, pueden ser grandes auxiliares de cara a los desafíos que nos toca enfrentar, siempre y cuando no olvidemos que, sin ser buenas o malas en sí mismas, no existen aisladas, ni poseen propósitos únicamente determinados de antemano por la agencia humana, con lo cual no es posible concebirlas de manera "neutral". La noción de cuidado permite así enfrentar el riesgo mayor que identifica la autora: el hecho de que tal vez nosotros mismos estemos siendo entrenados bajo la luz de la lógica reductora de las IA, que va poco a poco reduciendo la diversidad y ambivalencia del ethos y automatizando nuestras competencias morales. Bajo el auspicio de la noción de cuidado, entonces, la bioética podría oponerse a los planteos dilemáticos que obligan a optar por una opción descartando la otra, procurando enseñar a buscar vías alternativas que compongan entre los elementos en tensión soluciones superadoras, así como tal vez colaborando con el diseño de sistemas algorítmicos que utilicen criterios distintos a los utilitaristas para realizar sus operaciones. Esta podría ser además una vía para contrarrestar la bioetificación de nuestras competencias morales postulada por Calvo, y dejaría sin efecto ciertos ejercicios teoréticos que proponen soluciones mediante callejones sin salida. Un ejemplo de ellos es la tensión contemporánea -muchas veces extrema y desagradable- que existe entre feminismxs queer y feministas radicales en torno a la opresión patriarcal vinculada a caracteres subjetivos y somáticos. Dicha tensión no tendría por qué tener lugar en una mirada bioética enhebrada entre el cuidado de Vanessa Nurock y el antinaturalismo de Helen Hester, mirada que sería capaz de incluir las dimensiones técnicas, somáticas, psicosociales, entre otras, en el tratamiento político del problema.

Por lo dicho hasta aquí, ante el desafío de auscultar la transformación digital desde un punto de vista bioético y habiendo dividido el problema entre la insuficiencia de la bioética contemporánea y el efecto multiplicador de la mirada bioetificada, sostenemos que los aportes conceptuales que hemos tomado de las teorías feministas de la tecnología no están tan lejos de aquellos argumentos con los que Potter fundó la bioética. La mirada cibernética con la que Potter imaginó la disciplina buscaba ser capaz de dirigirse a las dimensiones biológica, técnica y orgánica de los sistemas, considerándolas a la vez en su aspecto holístico como en sus interacciones y mediaciones elementales. Buscaba el propósito de la supervivencia y la mejora en la calidad de vida a partir del "control" de las poblaciones humanas y no humanas, entendiendo "control" en el sentido cibernético de "mediación", esto es, de interacción o interfaz entre cultura, técnica y naturaleza. En este sentido, Potter se anticipaba al tipo de gobernanza biopolítico que, según señalábamos, reclama Bratton para enfrentar desafíos como la catástrofe ecológica o la emergencia de pandemias. Concluimos, entonces, que una de las tareas a las que debe encomendarse la bioética según el ejercicio retrospectivo y especulativo aquí descripto tiene que ser la de abordar las condiciones de posibilidad para la emergencia de sistemas algorítmicos que permitan vínculos de otra índole, con otras derivas operatorias sobre los procesos de subjetivación y los ensamblajes en los que ocurren. Los aportes de las TFT que aquí describimos están en perfecta sintonía con esta tarea, la llevan más allá de sus capacidades, colaboran con identificar sus limitaciones y nos permiten delinear un camino fecundo para la bioética en el marco de la transformación digital contemporánea, a la hora de resolver problemas que atañen al vínculo entre bios, technos y ethos.

REFERENCIAS BIBLIOGRÁFICAS

Artaud, A. (2005). El arte y la muerte. Otros escritos. Caja Negra. [ Links ]

Bratton, B. (2021). The revenge of the real, politics for a post pandemic world. Verso. [ Links ]

Calvo, P. (2019). Bioética de las Cosas: sobre la algoritmización de la deliberación moral en la práctica clínica. Unisinos Journal of Philosophy, 20(2), 155-162. [ Links ]

Calvo, P. (2020). Etificiación. En J. Pizzi y M. Cenci (coords.), Global Observatory for Social Pathologies. Federal University of Pelotas. [ Links ]

Expósito, J. (2022). Feminismos revolucionarios. Livriz. [ Links ]

Firestone, S. (1970). The dialectic of sex. The case for feminist revolution. Verso. [ Links ]

Gilligan, C. (1982). In a different voice. Harvard University Press. [ Links ]

Haraway D. (2021). Seguir con el problema. Consonni. [ Links ]

Hayles, N. K. (1999). How we became posthuman. Virtual bodies in cybernetics, literature, and informatics. University of Chicago Press. [ Links ]

Hester, H. (2019). Xenofeminismo. Caja Negra. [ Links ]

Mainetti, J. A. (1990). Bioética fundamental. La crisis bioética. Quirón. [ Links ]

Mittelstadt, B. D., Mariarosaria, P. A., Wachter, S. y Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 1-21. [ Links ]

Nurock, V. (2020). Puede prestar cuidados la inteligencia artificial. Cuadernos de Relaciones Laborales, 38(2), 217-229. [ Links ]

Piedra Herrera, D. (2013). Cuestionamientos a la globalización en Bioética. Revista Redbioética/UNESCO, 2(8), 93-101. [ Links ]

Potter, V. R. (1970). Bioethics: the science of survival. Perspectives in Biology and Medicine, 14(1), 127-153. [ Links ]

Potter, V. R. (1971). Bioethics: bridge to de future. Prentice-Hall. [ Links ]

Preciado, P. B. (2017). Testo yonqui. Sexo drogas y biopolítica. Paidós. [ Links ]

Preciado, P. (2020). Yo soy el monstruo que os habla. Anagrama. [ Links ]

Reynoso, C. (2015). Complejidad y caos: Una exploración antropológica. SB. [ Links ]

Rodríguez, P. (2019). Las palabras en las cosas. Saber, poder y subjetivación entre algorítmos y biomoléculas. Cactus. [ Links ]

Rosenblueth, A., Wiener, N. y Bigelow, J. (1943). Behavior, purpose and teleology. Philosophy of Science, 10(1), 18-24. http://pespmc1.vub.ac.be/books/Wiener-teleology.pdf. [ Links ]

Stanley, A. (1998). Women hold up two-thirds of the sky: Notes for a revised history of technology. En P. Hopkins (ed.), Sex/Machine. Readings in culture, gender and technology. Indiana University Press. [ Links ]

Stiegler, B. (Ed.). (2021). Bifurcate: There is no alternative. Open Humanities Press. [ Links ]

Tiqqun. (2015). La hipótesis cibernética. Hekht Libros. [ Links ]

Torrano A. y Fischetti N., (2020). Filosofía feminista de la técnica y la tecnología. Notas para una academia latinoamericana activista. Revista de Filosofía, 11(23). https://revistas.ufpi.br/index.php/pensando/article/view/11058. [ Links ]

Tronto, J. (2013). Caring democracy. NYU Press. [ Links ]

Vergés Bosch, N. (2013) Teorías feministas de la tecnología: evolución y principales debates. https://diposit.ub.edu/dspace/bitstream/2445/45624/1/Teor%C3%ADas%20Feministas%20de%20la%20Tecnolog%C3%ADa.pdf. [ Links ]

Wiener, N. (2000). Cybernetics or control and communication in the animal and the machine. (2.ª ed.). MIT Press. [ Links ]

Fuente de financiamiento: Autofinanciado.

Citar como: Benamo, M. E. (2023). Cuidar las I. A.: aportes de la filosofía feminista de la tecnología para la ciberbioética. Desde el Sur, 15(2), e0022.

1Licenciada en Filosofía por la Universidad Nacional del Sur, becaria doctoral por el Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET) para optar por el grado de doctora en Filosofía de la misma universidad, y alumna avanzada de la Maestría en Tecnologías, Políticas y Culturas del Centro de Estudios Avanzados de la Universidad Nacional de Córdoba (CEA-UNC). Realiza actividades de investigación en el marco del Programa de Investigación de Objetos Tecnológicos (UNC) y es miembro del Centro de Estudios en Filosofía de la Cultura (Universidad Nacional del Comahue, UNco).

2En el caso de la pandemia, por ejemplo, se diseñaron programas para el rastreo de casos, aplicaciones gubernamentales para teléfonos personales y objetos técnicos novedosos que motivan acciones, como respiradores inteligentes capaces de captar información en tiempo real sobre el estado de los pacientes, lo que colabora con la ruta terapéutica elaborada por el equipo sanitario.

3Trabajamos estas ideas en el marco del proyecto de tesis doctoral que llevamos adelante con el doctor Javier Blanco. Allí estudiamos los límites y alcances de la bioética entendida como enfoque cibernético, según lo querría el fundador de la disciplina, Van Rensselaer Potter, quien afirmaba que la bioética es "un conocimiento de cómo usar el conocimiento", por lo que "la bioética es un enfoque cibernético para la búsqueda de sabiduría" (Potter, 1975, p. 2297).

4Se trata de la ética biomédica de corte anglosajón, mayormente influenciada por la teoría de los principios de Beauchamp y Childress, en la que se intenta presentar un abordaje "coherentista" entre dos enfoques clásicos de la ética, el deontologismo y el utilitarismo.

5El campo de estudios de filosofía de la técnica también es de reciente desarrollo. Sin embargo, pese al consenso en torno a que la incidencia del sistema patriarcal en el desarrollo tecnológico es tan relevante como la incidencia del sistema capitalista y, en menor medida, la del sistema colonial, son estas dos últimas articulaciones en las que se ha diversificado la filosofía de la técnica, mientras que aquellas investigaciones que se enfocaban en los problemas vinculados al género fueron relegadas. Como escriben Andrea Torrano y Natalia Fischetti, "el canon de la filosofía de la técnica y la tecnología se ha resistido a incorporar cuestiones de género" (Torrano y Fischetti, 2020, p. 54).

6Como sostiene el cubano Daniel Piedra Herrera, Potter mismo sufrió un "prolongado ostracismo y sospechosa incomprensión" (Piedra Herrera, 2013, p. 95). El resultado fue una "convencionalización" de la bioética, que, coincidimos con Piedra Herrera, va en la dirección opuesta de la imaginada por Potter.

7Esta concepción es posibilitada por la confluencia de investigaciones en tecnología, neurología, física, biología, entre otras, que fueron cobrando ritmo a partir de la década de 1930. De este periodo pueden recogerse cuatro grandes teorías que a veces son llamadas "primera sistémica" (Reynoso, 2015), y una de ellas será la cibernética. Dichas investigaciones podrían ser enhebradas a su vez en torno -y a partir de- lo que Pablo Rodríguez llama "el "a priori histórico" de una nueva "episteme" (Rodríguez, 2019, p. 18) la noción de información. Explicitada en la teoría matemática de la información de Claude Shannon, la información es una entidad de carácter matemático y estadístico capaz de representar "la elección de un mensaje entre un rango posible de mensajes" (Hayles, 1999, p. 20). Se trata de la inclusión del cálculo de probabilidades en el análisis de una señal producto de una fuente determinada, inclusión que permitía interpretar la señal a partir de un patrón de regularidades y su probabilidad de aparición. La información permitirá instaurar equivalencias entre estructuras distintas, tales como organismos biológicos y máquinas, lo que implicará interpretar las estructuras biológicas mismas como las expresiones de un mensaje y, por tanto, factibles de ser transmitidas, almacenadas, manipuladas.

8Como ejemplo de ello, la filósofa reflexiona sobre el dispositivo Del-Em, un desarrollo totémico del "feminismo de autoayuda de la segunda ola", esto es, "un movimiento basado en la concientización, la auto-educación y un conjunto de intervenciones concretas en materia de salud y bienestar personal" (Hester, 2019, p. 76).

9Se trata de una conferencia dictada el 17 de noviembre de 2019, publicada por Anagrama bajo el título Yo soy el monstruo que os habla. Paul Preciado elabora más de un concepto que nos parece fundamental para la discusión bioética, como el de "microprostética", por ejemplo, con el que se refiere a la intervención tecnocientífica de los cuerpos no ya como una prótesis externa, sino como una condición técnica misma de la producción de subjetividad e incluso de la intervención y autoexploración emancipadora (Preciado, 2017).

10La llamada segunda cibernética o cibernética de segundo orden es una corriente teórica que estudia la relación entre los sistemas cibernéticos y su entorno. A diferencia de la cibernética de primer orden, que se centra en la observación y el control de sistemas cibernéticos desde una perspectiva externa, la cibernética de segundo orden se interesa por la interacción dinámica entre el observador y lo observado. Esta corriente fue impulsada por el biólogo chileno Humberto Maturana y el psicólogo inglés Stafford Beer, entre otros autores. Consultar Autopoiesis and cognition. The realization of the living de Maturana y Francisco Varela.

11Sabemos que la corriente xenofeminista así como algunas corrientes del feminismo revolucionario, confrontan directamente algunas posiciones de los feminismos del Cuidado. La argentina Julia Expósito, por ejemplo, propone enfatizar la perspectiva de "reproducción social" pues la misma admite por un lado "llevar el análisis más allá de las nociones de cuidado y trabajo doméstico, al abarcar a la reproducción de la vida como de las relaciones capitalistas patriarco-coloniales. Por el otro, admite una perspectiva del capitalismo como una cuestión de economía política y no como un régimen meramente económico" (Expósito, 2022, p. 38). Si bien algunas de esas tensiones nos parecen relevantes de cara a la visión general de la propuesta posfeminista, nos parecen pertinentes siempre y cuando la noción de cuidado sea restringida. En nuestro caso y por una cuestión de economía argumental de la presente comunicación, tomamos la noción de cuidado en sentido amplio y en contraposición a la de "dilema" como explicaremos a continuación.

12Con el término artificialización busca designar un proceso de borramiento de la subjetividad impartido por la mirada codificada que, al pretenderse imparcial, refuerza automatismos, sesgos, injusticias, etc., y omite la agencia prescriptiva que ostentan los sistemas algorítmicos.

13Uno de estos dilemas utilizados con frecuencia es el que se conoce como "dilema del tranvía" inspirados en Philippe Foot y popularizados por John Mikhail (Nurock, 2020, p. 14) muy presente en ciencias cognitivas, en teorías del derecho, entre otras. Este dilema ha sido transferido a máquinas morales como la Moral Machine impulsada por el MIT: una inteligencia artificial destinada a la "educación" de autos autónomos, entrenada por humanos que van ingresando en un programa muy simple, qué curso de acción tomar ante obstáculos en la carretera.

Recibido: 31 de Diciembre de 2022; Aprobado: 17 de Marzo de 2023

Contribución de autoría:

María Eva Benamo fue el único autor.

Potenciales conflictos de interés:

Ninguno.

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons