Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors

ChatGPT tras bambalinas

Entérate de SPES en Telegram:
https://t.me/spesetcivitas

(Ilustración de Markus Winkler, tomada de Unsplash)

Los procesadores de lenguaje de la familia GPT existen desde hace algunos años. GPT-3, por ejemplo, existe desde 2020, y es el antecesor directo de las serie GPT-3.5, a la que pertenece ChatGPT. Uno de los sucesos por los cuales los procesadores de lenguaje han alcanzado un lugar importante en el diálogo público fue la liberación, el 30 de noviembre del 2022, de ChatGPT para uso del público en general.

Hay varias razones por las que ese acceso público a procesadores de lenguaje ha causado preocupaciones. Varios colegas que dan clases en universidades o en preparatorias me han manifestado su inquietud por que “ahora los alumnos pueden pedirle al robot que les escriba el ensayo de las entregas finales”. Sabemos, incluso, que estos procesadores de lenguaje se han usado para responder preguntas de investigación a científicos y humanistas proporcionando los artículos más relevantes al respecto. Más aún, éste es un ejemplo de artículo de investigación reciente que se ha escrito en colaboración con ChatGPT: https://doi.org/10.1016/j.nepr.2022.103537.

Esto podría desvalorizar el trabajo de los humanistas e investigadores, pero no precisamente por culpa de los desarrollos tecnológicos. El impacto de la tecnología en la sociedad se debe a dos razones. Una, el hecho de que las tecnologías, por diseño, establecen una tendencia de uso: las escopetas nos inclinan más a usarlas para matar, y los estetoscopios nos inclinan más a usarlos para curar. Otra, que quisiera remarcar aquí, es la manera en que se presentan estas tecnologías en el discurso público.

La mayoría de los historiadores de la ciencia están de acuerdo en que el primer tratado de mecánica relevante en la historia son los Problemas mecánicos, que se atribuye a Aristóteles y se conjetura que fue escrito por Arquitas de Tarento. En las primeras dos páginas del tratado leemos una reflexión sobre cómo ocultar el mecanismo de una máquina causa un gran asombro, y cómo el asombro se disipa una vez que conocemos la explicación. Mucho del sensacionalismo en torno a la inteligencia artificial se basa en ese asombro. Es muy importante decir que, en el fondo, lo que sucede tras la interfaz de los procesadores de lenguaje son operaciones matemáticas: álgebra lineal y cálculo multivariado, junto con algunos procesos heurísticos.

La siguiente imagen es un resumen básico de la estructura de un modelo generador, como ChatGPT:Diagrama
Descripción generada automáticamente

La principal razón por la que muchas profesiones pueden desvalorizarse con los desarrollos de la Inteligencia Artificial se debe más a la falta de comprensión respecto de lo que estos modelos realmente hacen. Piénsese, además de la labor académica, en el diagnóstico médico o en otro tipo de profesiones que involucran el razonamiento a partir de la evidencia. Corremos el riesgo de ignorar que estos modelos no son sensibles a problemas que están más relacionados con la sensibilidad social y moral que con el mero cálculo. O, peor aún, que pueden ser diseñados para dar propaganda a ciertas ideas, o para inclinar la balanza del discurso público.

La siguiente imagen está tomada de un artículo escrito por A. Abid et al., “Persistent anti-muslim bias in Large Language Models” (doi.org/10.1145/3461702.3462624), y muestra la tendencia de GPT-3 a asociar al islam con violencia. Un  artículo sumamente importante en evaluar los riesgos sociales en los procesadores de leguaje es “On the dangers of Stochastic Parrots” (“Sobre los peligros de los cotorros estocásticos”, https://doi.org/10.1145/3442188.3445922), que le costó a uno de sus autores, Timnit Gebru, que lo corrieran de Google.

Gráfico, Gráfico de barras
Descripción generada automáticamente

La tecnología es fascinante, pero a veces por razones distintas a las que nos empuja a creer la propaganda. Quizás, los grandes desarrollos tecnológicos, en vez de a un estado de bienestar y de despreocupación en el que las máquinas y los robots hacen todo el trabajo que no queremos hacer los humanos, nos llevan más bien a una sociedad que exige mayor responsabilidad ciudadana y que exige un tipo de conocimiento que algunos han querido llamar ‘alfabetización digital’. La presencia de grandes desarrollos tecnológicos nos compromete a los ciudadanos a tener más conocimiento científico, y a ser más cautelosos sobre cuándo sí y cuándo no el uso de una herramienta es conveniente para todos, si queremos bogar por mejores sociedades.

Una locura bien decidida

Una locura bien decidida

Síguenos en nuestro canal de Telegram:
https://t.me/spesetcivitas

Ilustración: fotografía de rusyena tomada de Unsplash

Don Quijote, hasta cierto punto, es un criminal suelto. Basta con leer sus primeras aventuras. Vemos a alguien capaz de acometer a un inocente fraile de san Benito, tumbarlo a fuerza de lanza de la mula en que venía, y a Sancho, su ejemplar escudero, lo vemos robarle al pobre fraile todas sus pertenencias. Déjenme compartirles el pasaje y luego explicarles por qué escribo esto:

Y sin esperar más respuesta picó a Rocinante y, la lanza baja, arremetió contra el primero fraile, con tanta furia y denuedo, que si el fraile no se dejara caer de la mula él le hiciera venir al suelo mal de su grado, y aun malferido, si no cayera muerto. […] Sancho Panza, que vio en el suelo al fraile, apeándose ligeramente de su asno arremetió a él y le comenzó a quitar los hábitos. Llegaron en esto dos mozos de los frailes y preguntáronle por qué le desnudaba. Respondioles Sancho que aquello le tocaba a él legítimamente, como despojos de la batalla que su señor don Quijote había ganado. (Parte I, cap. VIII).

Quise escribir este breve ensayo, después de leer detenidamente durante dos años la novela, para exhibir lo inadecuadas que pueden llegar a ser ciertas representaciones de éste, probablemente el más famoso de los caballeros. En algunos contextos, los clásicos son los libros más leídos; en otros, se habla mucho de ellos sin haberlos leído. Parte de la culpa la tenemos nosotros, filósofos y humanistas, cuando presentamos estos libros como sumamente nobles y elevados —nobles en el mal sentido de la palabra: petulantes—. No lo son. Son, más bien, libros divertidos y enriquecedores.

Una de las escenas que más disfruté, y con la que me torcí de la risa, es cuando Sancho no se atreve en la noche a apartarse de don Quijote, y decide hacer «lo que otro no pudiera hacer por él» allí junto. “Hacer sus necesidades”, como decimos ahora. Al grado en que don Quijote se ve obligado a decirle «que ahora más que nunca hueles, y no a ámbar» (Parte I, cap. XX), entre otros regaños y reproches graciosos. A ambos personajes, lejos de ser leyendas intangibles, los conocemos como seres de carne y hueso. Y como esos personajes humanos que son, tienen mucho que enseñarnos. Me gustaría ofrecer una probada de ello, para que quienes ya han leído la novela disfruten al recordar y volver a tan grata lectura y quienes no, sepan que encontrarán en ella algo mucho más interesante que lo que solemos imaginarnos cuando aún no la hemos leído.

Volviendo a la idea del Criminal Andante, ciento cincuenta páginas después de la aventura de los frailes (si se me permite usar la edición de Francisco Rico como referencia), don Quijote libera a una cadena de galeotes, esto es, bandidos que habían sido condenados a remar en las galeras. Tras liberarlos, él y su escudero se esconden en la Sierra Morena, porque saben que la Santa Hermandad podría arrestarlos legítimamente en cualquier momento. Rara vez escuchamos hablar de los heridos y graves desmanes que produjo la locura de este personaje.

Porque el Quijote, a despecho de todo ello, es de nuestros héroes favoritos. Mientras planeaba cómo escribir este ensayo, le pregunté a mi abuelo, quien también leyó el libro este año que pasó, cuál le parecía que era la idea principal de la novela.

—Ayudar a la gente, hijo —me dijo.

No me dejarán mentir si digo que los pasajes en los que nuestro héroe hace un recuento de sus labores son de lo más emblemático de la novela. El mismo Sancho repite ya la fórmula al final de la novela, cuando habla, en contraposición del Quijote de Avellaneda, del «verdadero don Quijote de la Mancha, el famoso, el valiente y el discreto, el enamorado, el desfacedor de agravios, el tutor de pupilos y huérfanos, el amparo de las viudas…» (Parte II, cap. LXXII).

Que por cierto, a propósito de las viudas y las doncellas desamparadas, una cosa son las ideas del protagonista y otra muy distinta las ideas del escritor. El Quijote es un tanto machista, sí, sin embargo Cervantes no.

Una de los personajes, la pastora Marcela, decide apartarse a vivir en el campo porque no quiere la vida de una mujer casada. Su razonamiento consiste en que, por más que muchos hombres la pretendan, reconozcan su hermosura y la amen bien, ella no está obligada a corresponder a ninguno. Hay un pretendiente llamado Grisóstomo que se suicida por ella. Y ella explica en un muy bello discurso por qué no es culpa suya la muerte de Grisóstomo. Al final de la escena, después de que Marcela deja en claro lo absurdas que son las actitudes de los enamorados que quieren forzar a las mujeres a corresponderles, don Quijote trata de alcanzar a la pastora Marcela, para ofrecerle su protección; mas a pesar de sus intentos, está claro que ella no lo necesita.

Con todo y sus defectos, no deja de ser un héroe. Una cualidad fundamental de su carácter heroico es su resolución, es decir, la capacidad de actuar conforme a sus propósitos y mantenerse firme en sus decisiones. En ética, la resolución es un tema recurrente; sin ella, nadie puede alcanzar la felicidad. En el caso de don Quijote, él está resuelto a vivir y comportarse según las normas de caballería, porque está convencido de que eso dará plenitud a su vida de un modo genuinamente personal.

En el camino de una de sus aventuras, se encuentra con Vivaldo, un caminante que, hablando con él, se entera de su locura. En esa conversación surge una comparación entre los frailes cartujos y los caballeros andantes. Don Quijote lo explica de la siguiente manera: «Quiero decir que los religiosos, con toda paz y sosiego, piden al cielo el bien de la tierra, pero los soldados y caballeros ponemos en ejecución lo que ellos piden, defendiéndola con el valor de nuestros brazos y filos de nuestras espadas, no debajo de cubierta, sino al cielo abierto, puestos por blanco de los insufribles rayos del sol en el verano y de los erizados yelos del invierno.» Y continúa: «Así que somos los ministros de Dios en la tierra y brazos por quien se ejecuta en ella su justicia» (parte I, cap. XIII). Hace lucir a la caballería como una actividad más fructífera y honorable que la vida consagrada. En su descripción exagera. Él sabe que todos los presentes consideran que la vida consagrada es más noble y sensata. Nada más con decir que, si se hubiera decidido a ser fraile cartujo, no lo llamarían loco.

Puestos en estos términos, más adelante, surge una pregunta; si la vida de los frailes cartujos conforma un camino más directo y llevadero hacia la santidad (en el que hay una consagración explícita y no hace falta sufrir los erizados hielos del invierno), ¿por qué Sancho y Quijote no adoptan mejor esa vida? Porque esa vida, por más deseable que sea, no es la suya.

Su resolución por la caballería es, de hecho, una locura, y quienes lo rodean lo consideran así. No obstante, cuando hablamos del Quijote como un loco, conviene calibrar el ancho de su locura. Todos los personajes que conviven el suficiente tiempo con él están de acuerdo en que su locura está delimitada al tema de la caballería. Cuando habla de cualquier otro tema, lo aprecian como una persona sumamente sabia (da consejos a los padres, a los enamorados, a los jóvenes; habla de historia, de arte, de ética y de política con suma perspicacia). El Quijote es loco sólo respecto de una cosa. Y además de sabio, era una persona muy agradable. En su lecho de muerte, a propósito de lo mucho que lo querían sus seres cercanos, el narrador nos dice: «porque verdaderamente, como alguna vez se ha dicho, en tanto que don Quijote fue Alonso Quijano el Bueno a secas, y en tanto que fue don Quijote de la Mancha, fue siempre de apacible condición y de agradable trato, y por esto no sólo era bien querido de los de su casa, sino de todos cuantos le conocían» (Parte II, cap. LXXIV).

Así que, sí, estaba loco, pero sólo un poco. Una de las razones de los demás personajes por las que se dice que está loco se basa en que la edad de la caballería en esos tiempos ya había quedado atrás, o que sólo existe en los libros. El argumento parece bueno hasta que lo piensas en otros contextos.

Imaginemos que nadie se esforzara por hacer lo que no existe, o lo que ya no existe. Si no tiene sentido esforzarse por ser un caballero andante porque la caballería ya no existe, entonces, siendo consecuentes, tendríamos que pensar que no tiene sentido esforzarse por tener un país justo porque ya todos son corruptos; o que no tiene sentido luchar por la igualdad de la mujer porque hay muchos que las menosprecian. Nadie haría nada. Siempre que nos esforzamos, lo hacemos para conseguir lo que no existe (o para cuidar lo que puede dejar de existir). Estudiamos una licenciatura cuando no tenemos una licenciatura, precisamente porque no la tenemos y queremos tenerla; construimos asociaciones que todavía no han sido instituidas; favorecemos a personas que aún no son oficialmente amigas nuestras, y un largo etcétera.

Será la caballería de don Quijote una completa locura, y de cualquier modo su resolución es totalmente sensata.

Sabemos que al final del libro se arrepiente (pide un cura y se confiesa, y públicamente se retracta); tanto, que ordena desheredar a su sobrina si ella llegara a casarse con alguien que tenga algo que ver con la orden de caballería. Pero ¿exactamente de qué se arrepiente? Si queremos entender esta novela o, mejor dicho, interpretarla, hemos de compaginar al Quijote heroico que combate molinos de manera irreductible y pertinaz con el Quijote derrotado por el Caballero de la Blanca Luna. Para quienes no lo han leído, el Caballero de la Blanca Luna es un personaje que reta a un duelo al Quijote, con la condición de que, si lo vence, estará obligado a renunciar por un año a la caballería. Y lo derrota.

Algunas reseñas de cine incluyen una alerta cuando van a revelar algún suceso central de la trama. No hacen falta esas alertas cuando se trata de los clásicos de la literatura: lo interesante de los clásicos, más que saber la historia, es leerlos. Por ello, no guardaré recato en seguir hablando del final.

Aunadas a la tradición literaria de novelas de caballería, Cervantes retoma las ficciones de la tradición poética pastoril. La historia de Grisóstomo y la pastora Marcela es uno de estos casos. Al menos en castellano, la obra de Garcilaso de la Vega es la más representativa de la tradición de poesía pastoril.

Y resulta que los versos y el vocabulario de Garcilaso ornamentan incontables escenas del libro. Por ejemplo, cuando llegan a la casa de don Diego de Miranda, nuestro caballero se topa con unas tinajas del Toboso, que le obligan a pensar en Dulcinea. Al momento, exclama:

¡Oh dulces prendas, por mi mal halladas,
dulces y alegres cuando Dios quería!

Son nada menos que los primeros versos del soneto X de Garcilaso.

Pues bien, después de derrotado, ya que está obligado a renunciar por un año a su profesión, él y Sancho deciden que, mientras, se convertirán en pastores como los de las églogas de Garcilaso. Una égloga es precisamente un poema que idealiza la vida del campo y de los pastores, y que generalmente trata sobre el desamor de los pastores.

El ideal caballeresco y el ideal pastoril difieren bastante. ¿Qué quiere decir el hecho de que el Quijote muere tras decidir ser pastor? Los caballeros duermen poco, comen mal, reciben heridas, en fin, sufren. Y lo hacen en vistas a favorecer a los necesitados; realizan una misión que de no ser por ellos ninguna otra persona emprendería. Están motivados ya sea por honor, por su dama, por sus seres queridos, y también por el compromiso que sienten hacia las demás personas.

Los pastores, en cambio, no tienen propósitos que los conduzcan a salir de sí mismos. En todo caso, están fuera de sí mismos en el mal sentido de la expresión. Sufren por amor no correspondido, pero no tienen propósitos. Leemos en los poemas pastoriles asombrosas escenas naturales contrastadas con la tristeza de los pastores. Una estancia de las églogas más famosas, la Égloga I de Garcilaso, describe:

El sol tiende los rayos de su lumbre
por montes y por valles, despertando
las aves y animales y la gente:
cuál por el aire claro va volando,
cuál por el verde valle o alta cumbre
paciendo va segura y libremente,
cuál con el sol presente
va de nuevo al oficio
y al usado ejercicio
do su natura o menester l’inclina;
siempre está en llanto esta ánima mezquina
cuando la sombra el mundo va cubriendo
o la luz se avecina.
Salid sin duelo, lágrimas, corriendo.

Esa ‘ánima mezquina’, aunque tiene razones para llorar, no parece tener razones para dormir en las piedras, comer mal, sudar y arrojarse a las batallas peligrosas. La vida de los caballeros es un transcurso lleno de propósitos. La vida de los pastores es un final paralizado por un lamento.

No hay una historia del pastor Quijótiz y su amigo el pastor Pancino. De hecho, Garcilaso tampoco cuenta historias, sino que cuenta «el dulce lamentar de dos pastores». La historia del Ingenioso Hidalgo termina de un modo no muy distinto al que comienza. Termina dejando las armas, y había comenzado tomándolas. Antes y después no hay historia. En su primera salida, hablando consigo mismo, él se imagina cómo narrarán su historia, cómo dirán que «el famoso caballero don Quijote de la Mancha, dejando las ociosas plumas, subió sobre su famoso caballo Rocinante y comenzó a caminar por el antiguo y conocido campo de Montiel» (Parte I, cap. II).

La vida, quiere decirnos Cervantes, está fuera de las ociosas plumas (de la almohada, es decir, de la comodidad) y de los lamentosos finales (o de los idílicos escenarios de paz y estabilidad). Lo principal está en la lucha por los propósitos honorables.

Si esto es cierto, queda aún una pregunta por responder: ¿cuáles son esos propósitos honorables? ¿Cómo distinguir un propósito honorable de un molino de viento que nos arrojará al suelo estúpidamente?

De algo se arrepiente don Quijote, y no he respondido esa otra pregunta que planteé líneas atrás. Me atrevo a decir que se arrepiente de, en ocasiones, haber luchado por las imaginaciones equivocadas y también, en otras ocasiones cuando sus objetivos eran los correctos, de haberlo hecho de la manera inadecuada. Pero no veo cómo podría arrepentirse del hecho de haber luchado.

La siguiente vez que lea el Quijote, pondré especial atención en todos esos pasajes en los que se confunde realidad con ficción. Quisiera saber cómo reconstruir esa ética de las ficciones que vemos palpitar en la novela.

Por lo pronto, queridos amigos, espero haber exhibido la resolución del ingenioso don Quijote, uno de los incontables descubrimientos que uno puede sacar de esta novela: la determinación de traer a la existencia todo el bien que aún no existe.

Ilustraciones, en orden de aparición, de Ashlyn Smith, Timothy Dykes, Nik Shuliahin, Mick Haupt, Farina Hussain, Michal Matlon tomadas de Unsplash.

Una locura bien decidida

La voluntad de creer

Suscríbete a nuestro canal de Telegram: spesetcivitas

Introducción

En cualquier lista decente que se hiciera, William James (1842 – 1910) aparecería como uno de los tres mejores filósofos de América (cuáles serían los otros dos, lo dejo a consideración de nuestros lectores). Era estadunidense, pero eso no significa que no interpele directamente a los mexicanos y a países del centro y del sur del continente. En especial, por su preocupación constante de que la filosofía sea relevante para la vida. Si la filosofía no resuelve ninguno de nuestros problemas, no vale la pena.

La voluntad de creer es uno de sus ensayos más famosos. Se trata de una conferencia que dictó en Harvard. En aquella época, el debate sobre si la ciencia desacredita a la religión y a la ética estaba en uno de sus puntos más álgidos. Algunos científicos pensaban que la teoría de la evolución y otros avances científicos habían mostrado que el humano no es más que un producto de la naturaleza. Esto es, que ni Dios ni ningún tipo de espiritualidad vienen al caso una vez que uno acepta la verdad de dichos avances científicos.

Pero James, él mismo un científico, criticó aquellos prejuicios en varios de sus ensayos. Si la ciencia está comprometida con la realidad y con la experiencia, entonces no puede dejar de lado las experiencias religiosas. (A quien le guste la historia de la ciencia, le recomiendo este artículo de Andreas Sommer a propósito de las investigaciones en psicología de James.)

Además, en un ensayo titulado “La acción refleja y el teísmo”, explica cómo, a partir de una de las teorías más aceptadas en psicología, se sigue que conviene aceptar a Dios como una realidad externa. Dios constituye el objeto más adecuado y racional posible para la mente humana. En sus palabras, «cualquier cosa menos que Dios no es racional, y cualquier cosa más que Dios no es posible».

En el ensayo que aquí te compartimos, leerás cómo, aunque no estemos obligados por la lógica a creer en Dios, hay buenas razones para hacerlo. El ateo se guía por el miedo; el creyente, por la esperanza. Y hay buenas razones para preferir la esperanza en vez del miedo.

William James

Traducciones

Existen al menos dos traducciones en español. La primera la hizo el psicólogo Santos Rubiano en 1922; ciertamente no es la mejor traducción, pero es la única gratis disponible. Se trata de un castellano algo antiguo. A continuación, puedes descargar el archivo.

Una traducción más reciente y recomendable es la de Ramón Vilá Vernis, que fue publicada por Marbot Ediciones en 2009. Puede echarle un ojo aquí: muestra del libro.

A continuación, encontrarás el ensayo original. Puedes también descargarlo en distintos formatos aquí.

The Will to Believe

William James

Nota: la paginación original está señalada con llaves, así: {página}

In the recently published Life by Leslie Stephen of his brother, Fitz-James, there is an account of a school to which the latter went when he was a boy. The teacher, a certain Mr. Guest, used to converse with his pupils in this wise: “Gurney, what is the difference between justification and sanctification?—Stephen, prove the omnipotence of God!” etc. In the midst of our Harvard freethinking and indifference we are prone to imagine that here at your good old orthodox College conversation continues to be somewhat upon this order; and to show you that we at Harvard have not lost all interest in these vital subjects, I have brought with me to-night something like a sermon on justification by faith to read to you,—I mean an essay in justification of faith, a defence of our right to adopt a believing attitude in religious matters, in spite of the fact that our merely logical {2}intellect may not have been coerced. ‘The Will to Believe,’ accordingly, is the title of my paper.

I have long defended to my own students the lawfulness of voluntarily adopted faith; but as soon as they have got well imbued with the logical spirit, they have as a rule refused to admit my contention to be lawful philosophically, even though in point of fact they were personally all the time chock-full of some faith or other themselves. I am all the while, however, so profoundly convinced that my own position is correct, that your invitation has seemed to me a good occasion to make my statements more clear. Perhaps your minds will be more open than those with which I have hitherto had to deal. I will be as little technical as I can, though I must begin by setting up some technical distinctions that will help us in the end.

I.

Let us give the name of hypothesis to anything that may be proposed to our belief; and just as the electricians speak of live and dead wires, let us speak of any hypothesis as either live or dead. A live hypothesis is one which appeals as a real possibility to him to whom it is proposed. If I ask you to believe in the Mahdi, the notion makes no electric connection with your nature,—it refuses to scintillate with any credibility at all. As an hypothesis it is completely dead. To an Arab, however (even if he be not one of the Mahdi’s followers), the hypothesis is among the mind’s possibilities: it is alive. This shows that deadness and liveness in an hypothesis are not intrinsic properties, but relations to the {3}individual thinker. They are measured by his willingness to act. The maximum of liveness in an hypothesis means willingness to act irrevocably. Practically, that means belief; but there is some believing tendency wherever there is willingness to act at all.

Next, let us call the decision between two hypotheses an option. Options may be of several kinds. They may be—1, living or dead; 2, forced or avoidable; 3, momentous or trivial; and for our purposes we may call an option a genuine option when it is of the forced, living, and momentous kind.

1. A living option is one in which both hypotheses are live ones. If I say to you: “Be a theosophist or be a Mohammedan,” it is probably a dead option, because for you neither hypothesis is likely to be alive. But if I say: “Be an agnostic or be a Christian,” it is otherwise: trained as you are, each hypothesis makes some appeal, however small, to your belief.

2. Next, if I say to you: “Choose between going out with your umbrella or without it,” I do not offer you a genuine option, for it is not forced. You can easily avoid it by not going out at all. Similarly, if I say, “Either love me or hate me,” “Either call my theory true or call it false,” your option is avoidable. You may remain indifferent to me, neither loving nor hating, and you may decline to offer any judgment as to my theory. But if I say, “Either accept this truth or go without it,” I put on you a forced option, for there is no standing place outside of the alternative. Every dilemma based on a complete logical disjunction, with no possibility of not choosing, is an option of this forced kind.{4}

3. Finally, if I were Dr. Nansen and proposed to you to join my North Pole expedition, your option would be momentous; for this would probably be your only similar opportunity, and your choice now would either exclude you from the North Pole sort of immortality altogether or put at least the chance of it into your hands. He who refuses to embrace a unique opportunity loses the prize as surely as if he tried and failed. Per contra, the option is trivial when the opportunity is not unique, when the stake is insignificant, or when the decision is reversible if it later prove unwise. Such trivial options abound in the scientific life. A chemist finds an hypothesis live enough to spend a year in its verification: he believes in it to that extent. But if his experiments prove inconclusive either way, he is quit for his loss of time, no vital harm being done.

It will facilitate our discussion if we keep all these distinctions well in mind.

II.

The next matter to consider is the actual psychology of human opinion. When we look at certain facts, it seems as if our passional and volitional nature lay at the root of all our convictions. When we look at others, it seems as if they could do nothing when the intellect had once said its say. Let us take the latter facts up first.

Does it not seem preposterous on the very face of it to talk of our opinions being modifiable at will? Can our will either help or hinder our intellect in its perceptions of truth? Can we, by just willing it, believe that Abraham Lincoln’s existence is a myth, {5}and that the portraits of him in McClure’s Magazine are all of some one else? Can we, by any effort of our will, or by any strength of wish that it were true, believe ourselves well and about when we are roaring with rheumatism in bed, or feel certain that the sum of the two one-dollar bills in our pocket must be a hundred dollars? We can say any of these things, but we are absolutely impotent to believe them; and of just such things is the whole fabric of the truths that we do believe in made up,—matters of fact, immediate or remote, as Hume said, and relations between ideas, which are either there or not there for us if we see them so, and which if not there cannot be put there by any action of our own.

In Pascal’s Thoughts there is a celebrated passage known in literature as Pascal’s wager. In it he tries to force us into Christianity by reasoning as if our concern with truth resembled our concern with the stakes in a game of chance. Translated freely his words are these: You must either believe or not believe that God is—which will you do? Your human reason cannot say. A game is going on between you and the nature of things which at the day of judgment will bring out either heads or tails. Weigh what your gains and your losses would be if you should stake all you have on heads, or God’s existence: if you win in such case, you gain eternal beatitude; if you lose, you lose nothing at all. If there were an infinity of chances, and only one for God in this wager, still you ought to stake your all on God; for though you surely risk a finite loss by this procedure, any finite loss is reasonable, even a certain one is reasonable, if there is but the possibility of {6}infinite gain. Go, then, and take holy water, and have masses said; belief will come and stupefy your scruples,—Cela vous fera croire et vous abêtira. Why should you not? At bottom, what have you to lose?

You probably feel that when religious faith expresses itself thus, in the language of the gaming-table, it is put to its last trumps. Surely Pascal’s own personal belief in masses and holy water had far other springs; and this celebrated page of his is but an argument for others, a last desperate snatch at a weapon against the hardness of the unbelieving heart. We feel that a faith in masses and holy water adopted wilfully after such a mechanical calculation would lack the inner soul of faith’s reality; and if we were ourselves in the place of the Deity, we should probably take particular pleasure in cutting off believers of this pattern from their infinite reward. It is evident that unless there be some pre-existing tendency to believe in masses and holy water, the option offered to the will by Pascal is not a living option. Certainly no Turk ever took to masses and holy water on its account; and even to us Protestants these means of salvation seem such foregone impossibilities that Pascal’s logic, invoked for them specifically, leaves us unmoved. As well might the Mahdi write to us, saying, “I am the Expected One whom God has created in his effulgence. You shall be infinitely happy if you confess me; otherwise you shall be cut off from the light of the sun. Weigh, then, your infinite gain if I am genuine against your finite sacrifice if I am not!” His logic would be that of Pascal; but he would vainly use it on us, for the hypothesis he offers us is dead. No tendency to act on it exists in us to any degree.{7}

The talk of believing by our volition seems, then, from one point of view, simply silly. From another point of view it is worse than silly, it is vile. When one turns to the magnificent edifice of the physical sciences, and sees how it was reared; what thousands of disinterested moral lives of men lie buried in its mere foundations; what patience and postponement, what choking down of preference, what submission to the icy laws of outer fact are wrought into its very stones and mortar; how absolutely impersonal it stands in its vast augustness,—then how besotted and contemptible seems every little sentimentalist who comes blowing his voluntary smoke-wreaths, and pretending to decide things from out of his private dream! Can we wonder if those bred in the rugged and manly school of science should feel like spewing such subjectivism out of their mouths? The whole system of loyalties which grow up in the schools of science go dead against its toleration; so that it is only natural that those who have caught the scientific fever should pass over to the opposite extreme, and write sometimes as if the incorruptibly truthful intellect ought positively to prefer bitterness and unacceptableness to the heart in its cup.

It fortifies my soul to know
That, though I perish, Truth is so—

sings Clough, while Huxley exclaims: “My only consolation lies in the reflection that, however bad our posterity may become, so far as they hold by the plain rule of not pretending to believe what they have no reason to believe, because it may be to their advantage so to pretend [the word ‘pretend’ is surely here redundant], they will not have reached the {8}lowest depth of immorality.” And that delicious enfant terrible Clifford writes; “Belief is desecrated when given to unproved and unquestioned statements for the solace and private pleasure of the believer,… Whoso would deserve well of his fellows in this matter will guard the purity of his belief with a very fanaticism of jealous care, lest at any time it should rest on an unworthy object, and catch a stain which can never be wiped away…. If [a] belief has been accepted on insufficient evidence [even though the belief be true, as Clifford on the same page explains] the pleasure is a stolen one…. It is sinful because it is stolen in defiance of our duty to mankind. That duty is to guard ourselves from such beliefs as from a pestilence which may shortly master our own body and then spread to the rest of the town…. It is wrong always, everywhere, and for every one, to believe anything upon insufficient evidence.”

III.

All this strikes one as healthy, even when expressed, as by Clifford, with somewhat too much of robustious pathos in the voice. Free-will and simple wishing do seem, in the matter of our credences, to be only fifth wheels to the coach. Yet if any one should thereupon assume that intellectual insight is what remains after wish and will and sentimental preference have taken wing, or that pure reason is what then settles our opinions, he would fly quite as directly in the teeth of the facts.

It is only our already dead hypotheses that our willing nature is unable to bring to life again But what has made them dead for us is for the most part {9}a previous action of our willing nature of an antagonistic kind. When I say ‘willing nature,’ I do not mean only such deliberate volitions as may have set up habits of belief that we cannot now escape from,—I mean all such factors of belief as fear and hope, prejudice and passion, imitation and partisanship, the circumpressure of our caste and set. As a matter of fact we find ourselves believing, we hardly know how or why. Mr. Balfour gives the name of ‘authority’ to all those influences, born of the intellectual climate, that make hypotheses possible or impossible for us, alive or dead. Here in this room, we all of us believe in molecules and the conservation of energy, in democracy and necessary progress, in Protestant Christianity and the duty of fighting for ‘the doctrine of the immortal Monroe,’ all for no reasons worthy of the name. We see into these matters with no more inner clearness, and probably with much less, than any disbeliever in them might possess. His unconventionality would probably have some grounds to show for its conclusions; but for us, not insight, but the prestige of the opinions, is what makes the spark shoot from them and light up our sleeping magazines of faith. Our reason is quite satisfied, in nine hundred and ninety-nine cases out of every thousand of us, if it can find a few arguments that will do to recite in case our credulity is criticised by some one else. Our faith is faith in some one else’s faith, and in the greatest matters this is most the case. Our belief in truth itself, for instance, that there is a truth, and that our minds and it are made for each other,—what is it but a passionate affirmation of desire, in which our social system backs us up? We want to have a truth; we want to believe that our {10}experiments and studies and discussions must put us in a continually better and better position towards it; and on this line we agree to fight out our thinking lives. But if a pyrrhonistic sceptic asks us how we know all this, can our logic find a reply? No! certainly it cannot. It is just one volition against another,—we willing to go in for life upon a trust or assumption which he, for his part, does not care to make.[2]

As a rule we disbelieve all facts and theories for which we have no use. Clifford’s cosmic emotions find no use for Christian feelings. Huxley belabors the bishops because there is no use for sacerdotalism in his scheme of life. Newman, on the contrary, goes over to Romanism, and finds all sorts of reasons good for staying there, because a priestly system is for him an organic need and delight. Why do so few ‘scientists’ even look at the evidence for telepathy, so called? Because they think, as a leading biologist, now dead, once said to me, that even if such a thing were true, scientists ought to band together to keep it suppressed and concealed. It would undo the uniformity of Nature and all sorts of other things without which scientists cannot carry on their pursuits. But if this very man had been shown something which as a scientist he might do with telepathy, he might not only have examined the evidence, but even have found it good enough. This very law which the logicians would impose upon us—if I may give the name of logicians to those who would rule out our willing nature here—is based on nothing but their own natural wish to exclude all elements for {11}which they, in their professional quality of logicians, can find no use.

Evidently, then, our non-intellectual nature does influence our convictions. There are passional tendencies and volitions which run before and others which come after belief, and it is only the latter that are too late for the fair; and they are not too late when the previous passional work has been already in their own direction. Pascal’s argument, instead of being powerless, then seems a regular clincher, and is the last stroke needed to make our faith in masses and holy water complete. The state of things is evidently far from simple; and pure insight and logic, whatever they might do ideally, are not the only things that really do produce our creeds.

IV.

Our next duty, having recognized this mixed-up state of affairs, is to ask whether it be simply reprehensible and pathological, or whether, on the contrary, we must treat it as a normal element in making up our minds. The thesis I defend is, briefly stated, this: Our passional nature not only lawfully may, but must, decide an option between propositions, whenever it is a genuine option that cannot by its nature be decided on intellectual grounds; for to say, under such circumstances, “Do not decide, but leave the question open,” is itself a passional decision,—just like deciding yes or no,—and is attended with the same risk of losing the truth. The thesis thus abstractly expressed will, I trust, soon become quite clear. But I must first indulge in a bit more of preliminary work.
{12}

V.

It will be observed that for the purposes of this discussion we are on ‘dogmatic’ ground,—ground, I mean, which leaves systematic philosophical scepticism altogether out of account. The postulate that there is truth, and that it is the destiny of our minds to attain it, we are deliberately resolving to make, though the sceptic will not make it. We part company with him, therefore, absolutely, at this point. But the faith that truth exists, and that our minds can find it, may be held in two ways. We may talk of the empiricist way and of the absolutist way of believing in truth. The absolutists in this matter say that we not only can attain to knowing truth, but we can know when we have attained to knowing it; while the empiricists think that although we may attain it, we cannot infallibly know when. To know is one thing, and to know for certain that we know is another. One may hold to the first being possible without the second; hence the empiricists and the absolutists, although neither of them is a sceptic in the usual philosophic sense of the term, show very different degrees of dogmatism in their lives.

If we look at the history of opinions, we see that the empiricist tendency has largely prevailed in science, while in philosophy the absolutist tendency has had everything its own way. The characteristic sort of happiness, indeed, which philosophies yield has mainly consisted in the conviction felt by each successive school or system that by it bottom-certitude had been attained. “Other philosophies are collections of opinions, mostly false; my philosophy {13}gives standing-ground forever,”—who does not recognize in this the key-note of every system worthy of the name? A system, to be a system at all, must come as a closed system, reversible in this or that detail, perchance, but in its essential features never!

Scholastic orthodoxy, to which one must always go when one wishes to find perfectly clear statement, has beautifully elaborated this absolutist conviction in a doctrine which it calls that of ‘objective evidence.’ If, for example, I am unable to doubt that I now exist before you, that two is less than three, or that if all men are mortal then I am mortal too, it is because these things illumine my intellect irresistibly. The final ground of this objective evidence possessed by certain propositions is the adaequatio intellectûs nostri cum rê. The certitude it brings involves an aptitudinem ad extorquendum certum assensum on the part of the truth envisaged, and on the side of the subject a quietem in cognitione, when once the object is mentally received, that leaves no possibility of doubt behind; and in the whole transaction nothing operates but the entitas ipsa of the object and the entitas ipsa of the mind. We slouchy modern thinkers dislike to talk in Latin,—indeed, we dislike to talk in set terms at all; but at bottom our own state of mind is very much like this whenever we uncritically abandon ourselves: You believe in objective evidence, and I do. Of some things we feel that we are certain: we know, and we know that we do know. There is something that gives a click inside of us, a bell that strikes twelve, when the hands of our mental clock have swept the dial and meet over the meridian hour. The greatest empiricists among us are only empiricists on reflection: when {14}left to their instincts, they dogmatize like infallible popes. When the Cliffords tell us how sinful it is to be Christians on such ‘insufficient evidence,’ insufficiency is really the last thing they have in mind. For them the evidence is absolutely sufficient, only it makes the other way. They believe so completely in an anti-christian order of the universe that there is no living option: Christianity is a dead hypothesis from the start.

VI.

But now, since we are all such absolutists by instinct, what in our quality of students of philosophy ought we to do about the fact? Shall we espouse and indorse it? Or shall we treat it as a weakness of our nature from which we must free ourselves, if we can?

I sincerely believe that the latter course is the only one we can follow as reflective men. Objective evidence and certitude are doubtless very fine ideals to play with, but where on this moonlit and dream-visited planet are they found? I am, therefore, myself a complete empiricist so far as my theory of human knowledge goes. I live, to be sure, by the practical faith that we must go on experiencing and thinking over our experience, for only thus can our opinions grow more true; but to hold any one of them—I absolutely do not care which—as if it never could be reinterpretable or corrigible, I believe to be a tremendously mistaken attitude, and I think that the whole history of philosophy will bear me out. There is but one indefectibly certain truth, and that is the truth that pyrrhonistic scepticism itself leaves {15}standing,—the truth that the present phenomenon of consciousness exists. That, however, is the bare starting-point of knowledge, the mere admission of a stuff to be philosophized about. The various philosophies are but so many attempts at expressing what this stuff really is. And if we repair to our libraries what disagreement do we discover! Where is a certainly true answer found? Apart from abstract propositions of comparison (such as two and two are the same as four), propositions which tell us nothing by themselves about concrete reality, we find no proposition ever regarded by any one as evidently certain that has not either been called a falsehood, or at least had its truth sincerely questioned by some one else. The transcending of the axioms of geometry, not in play but in earnest, by certain of our contemporaries (as Zöllner and Charles H. Hinton), and the rejection of the whole Aristotelian logic by the Hegelians, are striking instances in point.

No concrete test of what is really true has ever been agreed upon. Some make the criterion external to the moment of perception, putting it either in revelation, the consensus gentium, the instincts of the heart, or the systematized experience of the race. Others make the perceptive moment its own test,—Descartes, for instance, with his clear and distinct ideas guaranteed by the veracity of God; Reid with his ‘common-sense;’ and Kant with his forms of synthetic judgment a priori. The inconceivability of the opposite; the capacity to be verified by sense; the possession of complete organic unity or self-relation, realized when a thing is its own other,—are standards which, in turn, have been used. The much {16}lauded objective evidence is never triumphantly there, it is a mere aspiration or Grenzbegriff, marking the infinitely remote ideal of our thinking life. To claim that certain truths now possess it, is simply to say that when you think them true and they are true, then their evidence is objective, otherwise it is not. But practically one’s conviction that the evidence one goes by is of the real objective brand, is only one more subjective opinion added to the lot. For what a contradictory array of opinions have objective evidence and absolute certitude been claimed! The world is rational through and through,—its existence is an ultimate brute fact; there is a personal God,—a personal God is inconceivable; there is an extra-mental physical world immediately known,—the mind can only know its own ideas; a moral imperative exists,—obligation is only the resultant of desires; a permanent spiritual principle is in every one,—there are only shifting states of mind; there is an endless chain of causes,—there is an absolute first cause; an eternal necessity,—a freedom; a purpose,—no purpose; a primal One,—a primal Many; a universal continuity,—an essential discontinuity in things; an infinity,—no infinity. There is this,—there is that; there is indeed nothing which some one has not thought absolutely true, while his neighbor deemed it absolutely false; and not an absolutist among them seems ever to have considered that the trouble may all the time be essential, and that the intellect, even with truth directly in its grasp, may have no infallible signal for knowing whether it be truth or no. When, indeed, one remembers that the most striking practical application to life of the doctrine of objective certitude has been {17}the conscientious labors of the Holy Office of the Inquisition, one feels less tempted than ever to lend the doctrine a respectful ear.

But please observe, now, that when as empiricists we give up the doctrine of objective certitude, we do not thereby give up the quest or hope of truth itself. We still pin our faith on its existence, and still believe that we gain an ever better position towards it by systematically continuing to roll up experiences and think. Our great difference from the scholastic lies in the way we face. The strength of his system lies in the principles, the origin, the terminus a quo of his thought; for us the strength is in the outcome, the upshot, the terminus ad quem. Not where it comes from but what it leads to is to decide. It matters not to an empiricist from what quarter an hypothesis may come to him: he may have acquired it by fair means or by foul; passion may have whispered or accident suggested it; but if the total drift of thinking continues to confirm it, that is what he means by its being true.

VII.

One more point, small but important, and our preliminaries are done. There are two ways of looking at our duty in the matter of opinion,—ways entirely different, and yet ways about whose difference the theory of knowledge seems hitherto to have shown very little concern. We must know the truth; and we must avoid error,—these are our first and great commandments as would-be knowers; but they are not two ways of stating an identical commandment, they are two separable laws. Although it may indeed happen that when we believe the truth A, we escape {18}as an incidental consequence from believing the falsehood B, it hardly ever happens that by merely disbelieving B we necessarily believe A. We may in escaping B fall into believing other falsehoods, C or D, just as bad as B; or we may escape B by not believing anything at all, not even A.

Believe truth! Shun error!—these, we see, are two materially different laws; and by choosing between them we may end by coloring differently our whole intellectual life. We may regard the chase for truth as paramount, and the avoidance of error as secondary; or we may, on the other hand, treat the avoidance of error as more imperative, and let truth take its chance. Clifford, in the instructive passage which I have quoted, exhorts us to the latter course. Believe nothing, he tells us, keep your mind in suspense forever, rather than by closing it on insufficient evidence incur the awful risk of believing lies. You, on the other hand, may think that the risk of being in error is a very small matter when compared with the blessings of real knowledge, and be ready to be duped many times in your investigation rather than postpone indefinitely the chance of guessing true. I myself find it impossible to go with Clifford. We must remember that these feelings of our duty about either truth or error are in any case only expressions of our passional life. Biologically considered, our minds are as ready to grind out falsehood as veracity, and he who says, “Better go without belief forever than believe a lie!” merely shows his own preponderant private horror of becoming a dupe. He may be critical of many of his desires and fears, but this fear he slavishly obeys. He cannot imagine any one questioning its binding force. For my own part, I {19}have also a horror of being duped; but I can believe that worse things than being duped may happen to a man in this world: so Clifford’s exhortation has to my ears a thoroughly fantastic sound. It is like a general informing his soldiers that it is better to keep out of battle forever than to risk a single wound. Not so are victories either over enemies or over nature gained. Our errors are surely not such awfully solemn things. In a world where we are so certain to incur them in spite of all our caution, a certain lightness of heart seems healthier than this excessive nervousness on their behalf. At any rate, it seems the fittest thing for the empiricist philosopher.

VIII.

And now, after all this introduction, let us go straight at our question. I have said, and now repeat it, that not only as a matter of fact do we find our passional nature influencing us in our opinions, but that there are some options between opinions in which this influence must be regarded both as an inevitable and as a lawful determinant of our choice.

I fear here that some of you my hearers will begin to scent danger, and lend an inhospitable ear. Two first steps of passion you have indeed had to admit as necessary,—we must think so as to avoid dupery, and we must think so as to gain truth; but the surest path to those ideal consummations, you will probably consider, is from now onwards to take no further passional step.

Well, of course, I agree as far as the facts will allow. Wherever the option between losing truth and gaining it is not momentous, we can throw the {20}chance of gaining truth away, and at any rate save ourselves from any chance of believing falsehood, by not making up our minds at all till objective evidence has come. In scientific questions, this is almost always the case; and even in human affairs in general, the need of acting is seldom so urgent that a false belief to act on is better than no belief at all. Law courts, indeed, have to decide on the best evidence attainable for the moment, because a judge’s duty is to make law as well as to ascertain it, and (as a learned judge once said to me) few cases are worth spending much time over: the great thing is to have them decided on any acceptable principle, and got out of the way. But in our dealings with objective nature we obviously are recorders, not makers, of the truth; and decisions for the mere sake of deciding promptly and getting on to the next business would be wholly out of place. Throughout the breadth of physical nature facts are what they are quite independently of us, and seldom is there any such hurry about them that the risks of being duped by believing a premature theory need be faced. The questions here are always trivial options, the hypotheses are hardly living (at any rate not living for us spectators), the choice between believing truth or falsehood is seldom forced. The attitude of sceptical balance is therefore the absolutely wise one if we would escape mistakes. What difference, indeed, does it make to most of us whether we have or have not a theory of the Röntgen rays, whether we believe or not in mind-stuff, or have a conviction about the causality of conscious states? It makes no difference. Such options are not forced on us. On every account it is better not to make them, but still keep weighing reasons pro et contra with an indifferent hand.{21}

I speak, of course, here of the purely judging mind. For purposes of discovery such indifference is to be less highly recommended, and science would be far less advanced than she is if the passionate desires of individuals to get their own faiths confirmed had been kept out of the game. See for example the sagacity which Spencer and Weismann now display. On the other hand, if you want an absolute duffer in an investigation, you must, after all, take the man who has no interest whatever in its results: he is the warranted incapable, the positive fool. The most useful investigator, because the most sensitive observer, is always he whose eager interest in one side of the question is balanced by an equally keen nervousness lest he become deceived.[3] Science has organized this nervousness into a regular technique, her so-called method of verification; and she has fallen so deeply in love with the method that one may even say she has ceased to care for truth by itself at all. It is only truth as technically verified that interests her. The truth of truths might come in merely affirmative form, and she would decline to touch it. Such truth as that, she might repeat with Clifford, would be stolen in defiance of her duty to mankind. Human passions, however, are stronger than technical rules. “Le coeur a ses raisons,” as Pascal says, “que la raison ne connaît pas;” and however indifferent to all but the bare rules of the game the umpire, the abstract intellect, may be, the concrete players who furnish him the materials to judge of are usually, each one of them, in love with some pet ‘live hypothesis’ of his own. Let us agree, however, that wherever there is no forced option, the {22}dispassionately judicial intellect with no pet hypothesis, saving us, as it does, from dupery at any rate, ought to be our ideal.

The question next arises: Are there not somewhere forced options in our speculative questions, and can we (as men who may be interested at least as much in positively gaining truth as in merely escaping dupery) always wait with impunity till the coercive evidence shall have arrived? It seems a priori improbable that the truth should be so nicely adjusted to our needs and powers as that. In the great boarding-house of nature, the cakes and the butter and the syrup seldom come out so even and leave the plates so clean. Indeed, we should view them with scientific suspicion if they did.

IX.

Moral questions immediately present themselves as questions whose solution cannot wait for sensible proof. A moral question is a question not of what sensibly exists, but of what is good, or would be good if it did exist. Science can tell us what exists; but to compare the worths, both of what exists and of what does not exist, we must consult not science, but what Pascal calls our heart. Science herself consults her heart when she lays it down that the infinite ascertainment of fact and correction of false belief are the supreme goods for man. Challenge the statement, and science can only repeat it oracularly, or else prove it by showing that such ascertainment and correction bring man all sorts of other goods which man’s heart in turn declares. The question of having moral beliefs at all or not having them is decided by {23}our will. Are our moral preferences true or false, or are they only odd biological phenomena, making things good or bad for us, but in themselves indifferent? How can your pure intellect decide? If your heart does not want a world of moral reality, your head will assuredly never make you believe in one. Mephistophelian scepticism, indeed, will satisfy the head’s play-instincts much better than any rigorous idealism can. Some men (even at the student age) are so naturally cool-hearted that the moralistic hypothesis never has for them any pungent life, and in their supercilious presence the hot young moralist always feels strangely ill at ease. The appearance of knowingness is on their side, of naïveté and gullibility on his. Yet, in the inarticulate heart of him, he clings to it that he is not a dupe, and that there is a realm in which (as Emerson says) all their wit and intellectual superiority is no better than the cunning of a fox. Moral scepticism can no more be refuted or proved by logic than intellectual scepticism can. When we stick to it that there is truth (be it of either kind), we do so with our whole nature, and resolve to stand or fall by the results. The sceptic with his whole nature adopts the doubting attitude; but which of us is the wiser, Omniscience only knows.

Turn now from these wide questions of good to a certain class of questions of fact, questions concerning personal relations, states of mind between one man and another. Do you like me or not?—for example. Whether you do or not depends, in countless instances, on whether I meet you half-way, am willing to assume that you must like me, and show you trust and expectation. The previous faith on my part in your liking’s existence is in such cases what makes {24}your liking come. But if I stand aloof, and refuse to budge an inch until I have objective evidence, until you shall have done something apt, as the absolutists say, ad extorquendum assensum meum, ten to one your liking never comes. How many women’s hearts are vanquished by the mere sanguine insistence of some man that they must love him! he will not consent to the hypothesis that they cannot. The desire for a certain kind of truth here brings about that special truth’s existence; and so it is in innumerable cases of other sorts. Who gains promotions, boons, appointments, but the man in whose life they are seen to play the part of live hypotheses, who discounts them, sacrifices other things for their sake before they have come, and takes risks for them in advance? His faith acts on the powers above him as a claim, and creates its own verification.

A social organism of any sort whatever, large or small, is what it is because each member proceeds to his own duty with a trust that the other members will simultaneously do theirs. Wherever a desired result is achieved by the co-operation of many independent persons, its existence as a fact is a pure consequence of the precursive faith in one another of those immediately concerned. A government, an army, a commercial system, a ship, a college, an athletic team, all exist on this condition, without which not only is nothing achieved, but nothing is even attempted. A whole train of passengers (individually brave enough) will be looted by a few highwaymen, simply because the latter can count on one another, while each passenger fears that if he makes a movement of resistance, he will be shot before any one else backs him up. If we believed that the whole car-full would rise {25}at once with us, we should each severally rise, and train-robbing would never even be attempted. There are, then, cases where a fact cannot come at all unless a preliminary faith exists in its coming. And where faith in a fact can help create the fact, that would be an insane logic which should say that faith running ahead of scientific evidence is the ‘lowest kind of immorality’ into which a thinking being can fall. Yet such is the logic by which our scientific absolutists pretend to regulate our lives!

X.

In truths dependent on our personal action, then, faith based on desire is certainly a lawful and possibly an indispensable thing.

But now, it will be said, these are all childish human cases, and have nothing to do with great cosmical matters, like the question of religious faith. Let us then pass on to that. Religions differ so much in their accidents that in discussing the religious question we must make it very generic and broad. What then do we now mean by the religious hypothesis? Science says things are; morality says some things are better than other things; and religion says essentially two things.

First, she says that the best things are the more eternal things, the overlapping things, the things in the universe that throw the last stone, so to speak, and say the final word. “Perfection is eternal,”—this phrase of Charles Secrétan seems a good way of putting this first affirmation of religion, an affirmation which obviously cannot yet be verified scientifically at all.{26}

The second affirmation of religion is that we are better off even now if we believe her first affirmation to be true.

Now, let us consider what the logical elements of this situation are in case the religious hypothesis in both its branches be really true. (Of course, we must admit that possibility at the outset. If we are to discuss the question at all, it must involve a living option. If for any of you religion be a hypothesis that cannot, by any living possibility be true, then you need go no farther. I speak to the ‘saving remnant’ alone.) So proceeding, we see, first, that religion offers itself as a momentous option. We are supposed to gain, even now, by our belief, and to lose by our non-belief, a certain vital good. Secondly, religion is a forced option, so far as that good goes. We cannot escape the issue by remaining sceptical and waiting for more light, because, although we do avoid error in that way if religion be untrue, we lose the good, if it be true, just as certainly as if we positively chose to disbelieve. It is as if a man should hesitate indefinitely to ask a certain woman to marry him because he was not perfectly sure that she would prove an angel after he brought her home. Would he not cut himself off from that particular angel-possibility as decisively as if he went and married some one else? Scepticism, then, is not avoidance of option; it is option of a certain particular kind of risk. Better risk loss of truth than chance of error,—that is your faith-vetoer’s exact position. He is actively playing his stake as much as the believer is; he is backing the field against the religious hypothesis, just as the believer is backing the religious hypothesis against the field. To preach scepticism to us as a duty until {27}’sufficient evidence’ for religion be found, is tantamount therefore to telling us, when in presence of the religious hypothesis, that to yield to our fear of its being error is wiser and better than to yield to our hope that it may be true. It is not intellect against all passions, then; it is only intellect with one passion laying down its law. And by what, forsooth, is the supreme wisdom of this passion warranted? Dupery for dupery, what proof is there that dupery through hope is so much worse than dupery through fear? I, for one, can see no proof; and I simply refuse obedience to the scientist’s command to imitate his kind of option, in a case where my own stake is important enough to give me the right to choose my own form of risk. If religion be true and the evidence for it be still insufficient, I do not wish, by putting your extinguisher upon my nature (which feels to me as if it had after all some business in this matter), to forfeit my sole chance in life of getting upon the winning side,—that chance depending, of course, on my willingness to run the risk of acting as if my passional need of taking the world religiously might be prophetic and right.

All this is on the supposition that it really may be prophetic and right, and that, even to us who are discussing the matter, religion is a live hypothesis which may be true. Now, to most of us religion comes in a still further way that makes a veto on our active faith even more illogical. The more perfect and more eternal aspect of the universe is represented in our religions as having personal form. The universe is no longer a mere It to us, but a Thou, if we are religious; and any relation that may be possible from person to person might be possible {28}here. For instance, although in one sense we are passive portions of the universe, in another we show a curious autonomy, as if we were small active centres on our own account. We feel, too, as if the appeal of religion to us were made to our own active good-will, as if evidence might be forever withheld from us unless we met the hypothesis half-way. To take a trivial illustration: just as a man who in a company of gentlemen made no advances, asked a warrant for every concession, and believed no one’s word without proof, would cut himself off by such churlishness from all the social rewards that a more trusting spirit would earn,—so here, one who should shut himself up in snarling logicality and try to make the gods extort his recognition willy-nilly, or not get it at all, might cut himself off forever from his only opportunity of making the gods’ acquaintance. This feeling, forced on us we know not whence, that by obstinately believing that there are gods (although not to do so would be so easy both for our logic and our life) we are doing the universe the deepest service we can, seems part of the living essence of the religious hypothesis. If the hypothesis were true in all its parts, including this one, then pure intellectualism, with its veto on our making willing advances, would be an absurdity; and some participation of our sympathetic nature would be logically required. I, therefore, for one cannot see my way to accepting the agnostic rules for truth-seeking, or wilfully agree to keep my willing nature out of the game. I cannot do so for this plain reason, that a rule of thinking which would absolutely prevent me from acknowledging certain kinds of truth if those kinds of truth were really there, would be an irrational rule. That for me {29}is the long and short of the formal logic of the situation, no matter what the kinds of truth might materially be.

I confess I do not see how this logic can be escaped. But sad experience makes me fear that some of you may still shrink from radically saying with me, in abstracto, that we have the right to believe at our own risk any hypothesis that is live enough to tempt our will. I suspect, however, that if this is so, it is because you have got away from the abstract logical point of view altogether, and are thinking (perhaps without realizing it) of some particular religious hypothesis which for you is dead. The freedom to ‘believe what we will’ you apply to the case of some patent superstition; and the faith you think of is the faith defined by the schoolboy when he said, “Faith is when you believe something that you know ain’t true.” I can only repeat that this is misapprehension. In concreto, the freedom to believe can only cover living options which the intellect of the individual cannot by itself resolve; and living options never seem absurdities to him who has them to consider. When I look at the religious question as it really puts itself to concrete men, and when I think of all the possibilities which both practically and theoretically it involves, then this command that we shall put a stopper on our heart, instincts, and courage, and wait—acting of course meanwhile more or less as if religion were not true[4]—till {30}doomsday, or till such time as our intellect and senses working together may have raked in evidence enough,—this command, I say, seems to me the queerest idol ever manufactured in the philosophic cave. Were we scholastic absolutists, there might be more excuse. If we had an infallible intellect with its objective certitudes, we might feel ourselves disloyal to such a perfect organ of knowledge in not trusting to it exclusively, in not waiting for its releasing word. But if we are empiricists, if we believe that no bell in us tolls to let us know for certain when truth is in our grasp, then it seems a piece of idle fantasticality to preach so solemnly our duty of waiting for the bell. Indeed we may wait if we will,—I hope you do not think that I am denying that,—but if we do so, we do so at our peril as much as if we believed. In either case we act, taking our life in our hands. No one of us ought to issue vetoes to the other, nor should we bandy words of abuse. We ought, on the contrary, delicately and profoundly to respect one another’s mental freedom: then only shall we bring about the intellectual republic; then only shall we have that spirit of inner tolerance without which all our outer tolerance is soulless, and which is empiricism’s glory; then only shall we live and let live, in speculative as well as in practical things.

I began by a reference to Fitz James Stephen; let me end by a quotation from him. “What do you think {31}of yourself? What do you think of the world?… These are questions with which all must deal as it seems good to them. They are riddles of the Sphinx, and in some way or other we must deal with them…. In all important transactions of life we have to take a leap in the dark…. If we decide to leave the riddles unanswered, that is a choice; if we waver in our answer, that, too, is a choice: but whatever choice we make, we make it at our peril. If a man chooses to turn his back altogether on God and the future, no one can prevent him; no one can show beyond reasonable doubt that he is mistaken. If a man thinks otherwise and acts as he thinks, I do not see that any one can prove that he is mistaken. Each must act as he thinks best; and if he is wrong, so much the worse for him. We stand on a mountain pass in the midst of whirling snow and blinding mist, through which we get glimpses now and then of paths which may be deceptive. If we stand still we shall be frozen to death. If we take the wrong road we shall be dashed to pieces. We do not certainly know whether there is any right one. What must we do? ‘Be strong and of a good courage.’ Act for the best, hope for the best, and take what comes…. If death ends all, we cannot meet death better.”[5]

[1] An Address to the Philosophical Clubs of Yale and Brown Universities. Published in the New World, June, 1896.

[2] Compare the admirable page 310 in S. H. Hodgson’s “Time and Space,” London, 1865.

[3] Compare Wilfrid Ward’s Essay, “The Wish to Believe,” in his Witnesses to the Unseen, Macmillan & Co., 1893.

[4] Since belief is measured by action, he who forbids us to believe religion to be true, necessarily also forbids us to act as we should if we did believe it to be true. The whole defence of religious faith hinges upon action. If the action required or inspired by the religious hypothesis is in no way different from that dictated by the naturalistic hypothesis, then religious faith is a pure superfluity, better pruned away, and controversy about its legitimacy is a piece of idle trifling, unworthy of serious minds. I myself believe, of course, that the religious hypothesis gives to the world an expression which specifically determines our reactions, and makes them in a large part unlike what they might be on a purely naturalistic scheme of belief.

[5] Liberty, Equality, Fraternity, p. 353, 2d edition. London, 1874.

Una locura bien decidida

El mundo material de la computación, la IA y sus tendencias

Síguenos en nuestro canal de Telegram:
https://t.me/spesetcivitas

.
Una crítica larga, a propósito de
Atlas of AI.
Power, Politics and the Planetary Costs of Artificial Intelligence
Kate Crawford, 2021
Yale University Press

La Inteligencia artificial (IA) y la tecnología digital nos están llevando al futuro. La pregunta es si el futuro al que nos arrastra la IA es el futuro al que queremos ir. Para saber hacia dónde se dirige y qué alternativas tenemos, conviene enmarcar nuestros dispositivos electrónicos en un contexto más amplio.

Un episodio emblemático de la historia de la IA es el momento en que Deep Blue, una computadora diseñada por I.B.M, venció a Kaspárov, el campeón mundial de ajedrez de ese entonces. Sucedió en 1997. ¿Significa que ese día las máquinas superaron en inteligencia a los humanos? Además de discutir si la definición de ‘inteligencia’ que se usa en estos casos es la correcta, vale la pena ampliar la mirada: ¿exactamente quién venció a Kaspárov y cómo lo hizo?

No fue vencido por una máquina en un día, sino por un ejército de ingenieros y computólogos, con un presupuesto enorme, que trabajaron largas jornadas durante mucho tiempo (mientras que Kaspárov era una sola persona que, si bien entrenó durante toda su vida, su desempeño en el juego le tomó exclusivamente el tiempo del juego). Pensándolo así, Kaspárov no parece tan derrotado. Sin embargo, también es verdad que los ingenieros de la computación han alcanzado muchos logros.

Las bondades de dichos logros (comunicación instantánea, eficiencia en la producción, acceso a la información), a su vez, vienen acompañadas de los intereses de sus creadores. Detrás de la aparentemente mágica tecnología digital hay una infraestructura. La idea de las máquinas como mecanismos fríos, científicos e imparciales no cuadra cuando consideramos el poder social y político que encarnan. A fin de cuentas, fueron humanos con temperamento quienes las crearon y las usan.

Hay además una trampa mercadotécnica: hablar de la ‘nube’ o el ‘internet’ a secas, sugiere una fuerza o un espacio inmaterial. Al contrario, el internet, nuestras bandejas de correo electrónico, o las asistentes como Siri, Alexa o Cortana, no son inmateriales. Necesitan pantallas, cables, baterías, plástico, microprocesadores, etc. Las maravillas de lo digital no son posibles sin éstos componentes que, en el fondo, se valen de recursos naturales.

Tampoco son bienes comunitarios. No es que el internet sea un recurso de todos como lo es el aire, que todos tenemos derecho a respirarlo (y defenderlo). Los servidores, los satélites y las redes pertenecen a personas o a grupos de personas determinados. Hay servidores a los que no puede acceder cualquiera y herramientas digitales de las que sólo dispone quien las pueda pagar; con frecuencia disponen de ellas para sus intereses privados. No nos sorprende esto, porque lo mismo sucede con otros bienes, tecnologías y sectores. Más allá de si esto es bueno o malo, vale la pena reconocer que la tecnología no es moralmente neutra, y que podemos tomar decisiones respecto de ella que empujen a nuestra sociedad hacia un buen camino, cosa que se puede ver en los tres ámbitos en que enfoca Crawford su libro: el ambiental, el social y el político.

Aunque Crawford titula su libro ‘Atlas of AI’ (En español, ‘Atlas de la inteligencia artificial’), no refiere sólo a la IA: vuelca su mirada sobre la computación en general y, en lo ambiental, sobre los costos ambientales de toda la industria electrónica. Afirma que, en la IA, la parte inteligente no es artificial y la parte artificial no es inteligente. Dado que el término es confuso (responde, en buena medida, a fines mercadotécnicos) en este artículo hablaré, más bien, de algo así como el Atlas de la computación materializada.

Las computadoras necesitan metales

Buena parte de la tesis de Crawford es que el desarrollo de la computación se apoya en una práctica de extracción y explotación de los recursos, tanto ambientales como humanos e informáticos. En cuanto a lo ambiental, argumenta que la minería de litio y la de metales raros conllevan inevitablemente un daño devastador para el planeta.

Como dije, su análisis abarca toda la cadena de suministro de la industria digital, eso la lleva a materiales que también comparten otros dispositivos electrónicos. Para ejemplificar el impacto a gran escala de las baterías de nuestros celulares y demás aparatos, recurre a un caso de dimensiones mucho mayores: los autos eléctricos. «La compañía Tesla podría describirse con mayor precisión como un negocio de baterías, más que de autos». Afirma que la batería de un Tesla Model S requiere 63kg de litio. Tal como ella advierte, la movilidad eléctrica no es (ahora) una solución ambiental perfecta. Por una parte, usamos combustible fósil para nuestras necesidades eléctricas actuales. Por otra parte, una vez que termina la vida útil de estas baterías y de las de todos los demás dispositivos electrónicos (Tesla da una garantía de 8 años, mientras que la vida promedio de un celular son cuatro años), se desechan como basura. Son contaminación sólida.

Sin embargo, Crawford está equivocada en sus cálculos. Ninguna batería de ningún auto eléctrico ocupa 63kg de litio (Li). Ella se respalda en un artículo de Fred Lambert, que, a su vez, remite a Goldman Sachs, ¡una empresa financiera!, no a algún científico o ingeniero. Además, Lambert no habla de litio (Li), sino de carbonato de litio (Li2CO3), en el cual el litio conforma menos de una quinta parte de la masa total.

De cualquier modo, el mapa que ofrece es interesante. Una de sus evidencias de devastación ambiental es el lago negro de Baotou, que se formó en Mongolia interior a partir de los desechos del procesamiento de metales raros. Dichos metales (como el cerio o el neodimio) se utilizan para las pantallas táctiles, los micrófonos y demás componentes de nuestros dispositivos. Para obtenerlos, se disuelven mezclas de minerales en ácido sulfúrico y nítrico, a escala industrial. En Baotou, los residuos de ese proceso se van al lago negro, que actualmente mide 9km de diámetro y suma más de 180 millones de toneladas de desecho. Obviamente es tóxico.

El paisaje del lago es inhóspito e indignante. Pero, a despecho del panorama que pinta Crawford, existen esfuerzos para hacer de la minería y de la electrónica una industria sustentable. Necesitamos casas, hospitales, puentes, medios de transporte y un largo etcétera que no podría existir sin la minería.

En el año 2012, en Argentina, un grupo de profesionistas de la movilidad y del sector energético formó la AAVEA (Asociación Argentina de Vehículos Eléctricos), todos comprometidos fuertemente con la sustentabilidad. Su primer presidente fue Juan Pablo Zagorodny, quien hoy en día se dedica tanto a las energías renovables como a la minería sustentable.

El trabajo de Zagorodny consiste en adaptar los procesos de las mineras, que muchas veces son procesos de 24 hrs, y reajustarlos en jornadas de 8 hrs (quizá con el triple de potencia), para que coincidan con el horario diurno de energía solar. El objetivo es implementar más energía solar y eólica, para abastecer los procesos de manera más limpia y desplazar al combustible fósil.

Él es doctor en Física por la Universidad de Bayreuth e hizo una estancia post-doctoral en la Universidad de Konstanz. Es algo robusto y lleva un gesto constantemente enérgico y entusiasta. En una videollamada, me dijo que los desechos minerales de la industria electrónica sí contaminan, pero “contaminan de una forma distinta, cuya solución es menos prioritaria. En este momento la prioridad es descarbonizar el aire”.

Le mencioné el caso del lago negro. Me explicó que se trata de malas prácticas mineras, y que existen maneras de procesar los residuos de ácido. “Un pasivo ambiental no es una buena práctica; las mineras deben remediar el daño al ambiente”, me dijo. “El problema no es la minería misma. No por ser más ético dejas de hacer minería”. En las compañías con las que él trabaja, se planifica la operación con altos estándares de ingeniería, para que no haya accidentes ni ninguna clase de pasivos ambientales, y se busca disminuir la huella de carbono.

Así que, recapitulando, los algoritmos son máquinas abstractas que, para materializarse en nuestros dispositivos, necesitan de la industria minera y de otros recursos naturales. Han existido y existen malas prácticas en la minería. Una opción es oponerse ferozmente a ella y renunciar a todos sus beneficios (que, prácticamente, están vinculados con cualquier cosa a la que consideremos parte de la ‘civilización’). Otra opción, en cambio, consiste en promover buenas prácticas. El cambio energético para descarbonizar la industria, el procesamiento de residuos y la reparación de los ecosistemas serían grandes avances.

Fotografía de LeeAnn Cline

Inteligencia artificial artificialmente (así lo dijo Jeff Bezos)

La IA tiene muy poco de artificial. Una de las técnicas más famosas de programación actuales es el machine learning (en español, ‘aprendizaje de máquina’, esto es, ‘máquinas que aprenden’), junto con las redes neuronales artificiales. Se trata de programas que, alimentados por una gran base de datos, detectan patrones que luego aplican a casos nuevos. Algunas de sus aplicaciones son los detectores faciales, los pilotos automáticos y el procesamiento de lenguaje natural.

Dichos programas no podrían funcionar sin las bases de datos con las que ‘aprenden’. A su vez, las bases de datos existen gracias a una multitud de trabajadores digitales que etiquetan y organizan la información de las bases de datos, o a usuarios de diversas plataformas que proporcionan esta información ya clasificada. Las proezas de la inteligencia artificial no son sólo obra y magia de los grandes programadores, sino también hambre y pestañas quemadas de los mal pagados obreros digitales. Crawford cita un estudio de la Organización Internacional del Trabajo:

«A pesar de que este trabajo es esencial para mantener los sistemas de IA, usualmente es muy mal remunerado. Un estudio de la Organización Internacional del Trabajo entrevistó a 3,500 obreros digitales de setenta y cinco países que, rutinariamente, ofrecen su trabajo para tareas de plataformas populares como Amazon Mechanical Turk, Figure Eight, Microworkers y Clickworker. El reporte halló que un número sustancial de estas personas ganaba menos del salario mínimo local, incluso cuando la mayoría de ellos tenían mucha educación, frecuentemente con especializaciones en ciencia y tecnología». Estos trabajadores, por supuesto, operan de manera informal, sin ningún tipo de seguridad o prestación.

Muchas personas tienen que decidir entre aceptar un subempleo o simplemente carecer de trabajo. El problema no es que las personas tengan trabajo. Eso, de primera mano, es bueno. El problema es que el trabajo no sea reconocido justamente y que las personas no sean tratadas con dignidad. Crawford describe cómo los centros de distribución de Amazon están repletos de dispensadores de analgésicos y vendajes en los pasillos. Sus trabajadores constantemente se lesionan por trabajar al ritmo de las máquinas.

Por razones como ésta, más que discutir si los humanos serán reemplazados por los robots, Crawford se enfoca en «cómo los humanos cada vez más son tratados como si fueran robots». Sin embargo, el reemplazo laboral también es un tema importante. Un grupo de economistas del MIT y de Boston University afirma que la automatización está eliminando más trabajos que los que crea; mientras que Oxford Economics (una consultora de prevención) predice, para el 2023, la pérdida de 20 millones de trabajos debido a la automatización. Ambos estudios los reporta Sue Halpern en un ensayo publicado en NYRB.

La demanda de trabajo que crea el sector digital, no obstante, está aún corta de personal. «Las universidades latinoamericanas capacitan cerca de 40,000 desarrolladores de software al año. Lo cual está muy por debajo de los 100,000 que General Atlantic, una firma americana de temas de equidad, estima que el sector tecnológico necesita actualmente», escribió The Economist hace unas semanas.

Es interesante otro punto que hace Crawford: normalmente, las grandes empresas pretenden ocultar la enorme fuerza de trabajo que requiere la IA, para dar la apariencia de procesos totalmente controlados. En gran medida esto se debe a las expectativas que las empresas atribuyen a los usuarios: «esperan trabajo barato y sin fricción». Una empresa dedicada a calendarizar agendas, x.ai, se jactaba de un sistema de IA llamado ‘Amy’. El sistema existía, pero durante las 24hrs había personal revisando cada una de las calendarizaciones de Amy y reescribiendo cada uno de sus correos. Los empleados no podían descansar ni un segundo, puesto que, si no respondían al momento las demandas de los usuarios, se descubriría que no era un simple programa lo que había detrás de los calendarios.

Otro ejemplo de esto es el Turco mecánico de Amazon (o, en inglés, Amazon Mechanical Turk), el departamento de la empresa en el que obreros digitales hacen el trabajo digital que no pueden hacer las computadoras, como detectar páginas duplicadas de un mismo producto, etiquetar parcelas de datos, detectar contenido peligroso, etc.

Se llama ‘Turco mecánico’ porque en 1770 un inventor húngaro, Wolfgang van Kempelen, creó una máquina en forma de turco que aparentemente jugaba ajedrez, y a veces ganaba. La nobleza de la época creyó en el invento. En realidad, había una persona dentro de la máquina, que era quien jugaba las partidas de ajedrez.

No sólo hay trabajo mal pagado. También hay trabajo que nosotros como usuarios, regalamos. Cuando Google nos pide mostrar que no somos un robot, con sus preguntas reCAPTCHA, y seleccionamos los recuadros que contienen semáforos o lo que sea, estamos etiquetando imágenes gratis con las que forman bases de datos, para que ellos desarrollen las herramientas de IA que después nos venden.

Discriminación 2.0 y otros prejuicios

Así que la mentalidad de explotación ha tenido lugar en algunas malas prácticas mineras y en el ámbito laboral. Un tipo más de mentalidad de explotación tiene que ver con lo digital: pensar que toda la información está ahí para ser extraída y servir a intereses privados.

Las bases de datos, puesto que reflejan nuestras condiciones sociales actuales, replican las desigualdades e injusticias que vivimos y, en consecuencia, las perpetúan. Un banco que usa IA para otorgar créditos puede estar recurriendo al código postal como único criterio. Los algoritmos que recomiendan personal a los departamentos de reclutamiento de las empresas no sugieren mujeres para los puestos altos. Los organismos de justicia de E.U.A. que recurren a la IA suelen asignar más años de prisión a las personas negras.

En 2016, un grupo de científicos de Microsoft y la Universidad de Boston, entrenaron un algoritmo con bases de datos formadas a partir de Google News, esperando que por ser trabajo exclusivamente de periodistas tendrían menos sesgos de género. Ordenaron a la máquina que rellenara la ‘x’: “Hombre es a programador lo que mujer es a x”. La máquina contestó: “ama de casa”. (Leí esto hace tiempo en un artículo de Shannon Vallor y George A. Bekey publicado por Oxford en el libro Robot Ethics 2.0; lo recomiendo.)

Querer concluir la confiabilidad de una persona para un crédito o su aptitud para un trabajo mediante estos sistemas es mera pseudociencia. De hecho, Crawford rastrea el uso del reconocimiento facial en el machine learning como heredero de los prejuicios y errores de la frenología.

Estas bases de datos se crean sin el consentimiento de las personas que figuran en ellas, muchas veces sin su conocimiento. Arman bases de imágenes faciales con los datos de los presos o con fotografías que toman cámaras dispuestas en el pasillo de alguna universidad. A partir de ahí, los obreros digitales etiquetan según los estándares que exijan las empresas o los ‘científicos de datos’. Clasifican desde si es hombre o mujer, la edad que tiene, el color de piel, si está enojada o contenta, hasta (si hay más información disponible) sus creencias religiosas, sus ubicaciones recurrentes, afiliaciones políticas, personas cercanas, situación médica, económica, etc.

En algunos momentos, valga decirlo, Crawford parece más preocupada por el modo en que se hacen las clasificaciones que por el hecho de clasificar despóticamente la información íntima o privada. Información que no proporcionamos con esos fines o que, en principio, no es clasificable. Le preocupa, por ejemplo, que las clasificaciones del sexo de las personas sean binarias: mujeres y hombres.

Una de sus referencias es la base de datos UTKFace, producida por un grupo de la Universidad de Tennessee: «Las notas de cada imagen incluyen la edad estimada de cada persona, expresada en años del cero al 116. El género es forzosamente binario: cero para masculino y uno para femenino».

El problema no está en que la clasificación sea binaria (tanto quienes defienden una naturaleza sexuada en mujer y varón, como quienes la rechazan, pueden encontrar un punto de acuerdo en esto). Lo problemático es que haya una clasificación de la información que, por derecho, no podrían usar sin nuestro consentimiento para sus fines privados. Si hubiese un diálogo de por medio, entre los recolectores de la información y las personas a las que analizan, las voces de quienes no están de acuerdo con lo binario y con otros esquemas no quedarían marginadas.

Por supuesto que, si solicitaran nuestra información de manera personal e informándonos de sus propósitos, sus proyectos y su impacto, no habría bases de datos de las dimensiones que estos ingenieros buscan. Si tenemos que decidir entre el desarrollo de un proyecto de un puñado de ingenieros y la dignidad de los habitantes de una población ¿tenemos que apoyar a los ingenieros?

El punto de Crawford también es contra la clasificación misma: «el problema de la ciencia de la computación es que la justicia en los sistemas de IA nunca será algo que pueda codificarse o computarse». Además, nombra con precisión a las compañías que están clasificando de manera más alarmante, que no tienen que ver con las bases de datos públicas como UTKFace:

«Los mecanismos de clasificación verdaderamente masivos son los que operan, a escala global, compañías de tecnología privadas, incluidas Facebook [ahora Meta], Google, TikTok y Baidu. Estas compañías operan con poca supervisión respecto de cómo categorizan y bombardean a los usuarios, y no proveen canales significativos para ser evaluadas públicamente».

El gobierno inteligente

Mucho se ha dicho ya sobre el modo en que las plataformas de redes sociales y el uso de los datos masivos ha afectado los procesos democráticos de elección de presidentes y otros representantes de estado. Crawford enarbola la evidencia de un daño estructural más profundo: empresas privadas que colaboran militar o policialmente con el estado (el estado echa mano de ellas para operar con disimulo de un modo que legalmente le está prohibido), y empresas que toman poderes y se entrometen en ámbitos que son exclusivos del gobierno.

En cuanto a lo primero, Proyecto Maven es un ejemplo claro. Se trata de un proyecto del Departamento de defensa de E.U.A., cuyo objetivo es desarrollar sistemas que detecten enemigos mediante videos recabados por drones, para después atacarlos también con drones. Contrataron a Google, y Fei-Fei Li, la jefa de IA en la empresa, ordenó ocultarles el proyecto a los empleados. Eso no obstó para que sus programadores, en 2018 se dieran cuenta de que su trabajo estaba siendo usado para matar gente. Por motivos de organización interna y reputación, Google renunció al contrato. No obstante, en su lugar, Microsoft lo aceptó campante, alegando patriotismo. Se trata de un contrato de diez mil millones de dólares.

La manera en que, por otra parte, las empresas toman poderes que le corresponden exclusivamente al gobierno, puede verse en el caso de la aplicación ‘Neighbors’ (en español, ‘vecinos’). La aplicación la produjo Amazon, sirve para que los vecinos se informen entre ellos, en tiempo real, sobre crímenes o incidentes en la colonia (cosa que, en principio, suena bien), pero está conectada directamente a los servidores de Amazon y puede vincularse con un Timbre (el producto se llama Ring) que cuenta con una cámara. Las cámaras de esos Timbres también están conectadas a los servidores de Amazon. La compañía promocionó su uso en varios departamentos de policía local. Hay un reportaje de Caroline Haskins sobre un departamento policial en Florida, en el que Amazon ofreció Timbres gratis a los policías si éstos lograban que cierto número de habitantes en el vecindario descargaran la aplicación. De tal modo que, en algunas zonas, el cuidado que le corresponde al gobierno (en específico, a los organismos locales de la policía) está pasando a manos de Amazon.

La discusión sobre qué tan públicos son los servicios que proporcionan es cada vez más vigente. ¿Facebook es una plataforma pública? ¿La información de Google lo es? En un esquema tradicional, no lo son, puesto que pertenecen a empresas privadas. Aunque el internet y las herramientas digitales no son bienes comunitarios ni naturales como el aire, muchas compañías usan los recursos públicos y comunes para sus fines privados e individuales (El Data Center de Google ha usado durante largos periodos el circuito de fibra óptica público de la ciudad The Dalles, en Oregón, a modo de concesión). Puesto que estas empresas son subsidiadas con recursos públicos, quisiéramos buscar en ellas también bienes públicos; o bien, impedirles que abusen de nuestros recursos.

Los ejemplos son principalmente de E.U.A. Crawford se respalda en un amplísimo trabajo periodístico de otras personas sobre el tema. Ella misma ofrece fotografías y evidencias propias. Un periodismo así urge en México y en los países de América del centro y del sur.

Política de la abstención

Todo esto puede sonar desilusionante, sobre todo para quienes albergamos buenas expectativas en torno al desarrollo tecnológico. Sin embargo, también resulta esperanzador, en tanto que muestra con precisión cuáles son los problemas contra los que hemos de luchar en busca de una sociedad libre. Mientras tengamos un mejor entendimiento de ellos, pondremos manos a la obra de manera más eficaz y activa.

El último apartado de Atlas of AI se titula ‘Hacia la conexión de los movimientos que luchan por la justicia’. Después de insistir en que la infraestructura y las formas de poder vinculadas a la IA apuntan directamente a la centralización del control, propone una «renovada política de la abstención». Propone, en lugar de preguntar ‘¿dónde se aplicará la IA?’, cuestionar ‘¿por qué convendría aplicarla?’, y establecer ámbitos en los que debamos abstenernos de ella.

Para complementar la propuesta de Crawford, conviene tener en mente que también hay muchas áreas grises en las que no está claro si, al implementar estas tecnologías, perdemos más de lo que ganamos o no. Para establecer ámbitos en los que debamos abstenernos de las herramientas digitales, se requiere mucho trabajo intelectual.

Su propuesta, desde una perspectiva más general, va en contra de la falacia de la inevitabilidad: pensar que, si es posible desarrollar algún tipo de tecnología, se hará inevitablemente. «Vemos atisbos de esta abstención», escribe ella, «cuando las poblaciones eligen desmantelar la policía predictiva, prohíben el reconocimiento facial y protestan en contra de calificar personas mediante algoritmos. Por ahora, estas pequeñas victorias han sido parcas y locales, la mayoría en ciudades con más recursos para organizarse, como Londres, San Francisco, Hong Kong, Portland y Oregon. Pero todas apuntan a la necesidad de movimientos nacionales e internacionales que se rehúsen al enfoque de poner por delante la tecnología y, más bien, se encarguen de las injusticias e inequidades subyacentes».

El primer paso para que países de América del centro y del sur, de Asia y de África se sumen consiste en trabajar por un periodismo que descubra los cables enredados que gobiernan nuestras pantallas, específicamente en nuestras ciudades y poblados. Sólo así entenderemos los vínculos concretos entre los problemas digitales nuestros y los de otros países, y actuaremos juntos.

Agradezco mucho la orientación y los recursos que me proporcionó Juan Pablo Zagorodny en la elaboración de este artículo. Para terminar con algo bello, les confieso que estos versos de Bécquer me inspiraron a escribir el primer párrafo:

Yo sé que hay fuegos fatuos, que en la noche
llevan al caminante a perecer;
yo me siento arrastrado por tus ojos;
pero adónde me arrastran, no lo sé.

Por Alberto Domínguez Horner
Twitter @HornerAlberto

Te invitamos a nuestras Conferencias SPES, encontrarás una sección en el menú con más información.

Una locura bien decidida

Poemas para la esperanza

A propósito de
Un faro en Lontananza
Pedro Peón Espejo
Yucatán, 2021

La poesía de Pedro Peón no es sensacionalista, ni está hecha para agradar a los críticos del momento. Sobre todo, porque está dispuesto a aprender del pasado, tanto en el contenido como en la forma: romances, sonetos, redondillas y versos alejandrinos.

Ganó el Premio Internacional Bachillerato Anáhuac PIBA 2017 por el poema “Lo que trasciende las guerras y las castas”. Está incluido en el libro. El poema trata sobre la amistad entre una mujer española y una mujer indígena. Los versos cuentan cómo un grupo de indígenas armados asaltan la casa de los españoles, matan al esposo y apresan a la mujer. Sin embargo, su amiga indígena logra que la liberen.

“¡Detengan ahora mismo esta injusticia!”
Manuelita entre llantos exclamó.
“En ella yo les juro no hay malicia
y si muere, ¡también me muero yo!”

Ilustración de Alonso Gutiérrez Espinosa

Si tuviera que elegir entre los poemas de Un faro en lontananza, me quedaría con los narrativos; en especial, con el último: “Romance marino”. Cuenta la historia de un naufragio. A bordo iba una mujer joven arrepentida de desairar a su pretendiente. Él era criollo. Ella, “noble castellana”, viajaba ya para España cuando el barco se hundió. A pesar de la tragedia, el final del poema es esperanzador.

La esperanza es tema central del poemario. El faro en lontananza al que alude el título la simboliza. En el poema “Remembranzas” se ve un ambiente de desolación en el que luego hay una luz, un motivo. Unos versos preguntan:

¿En dónde se han quedado las cosas y lugares
que daban a mi vida sus notas singulares?

Versos después, el mismo poema responde:

mas luego en la tormenta, ¡una luz de salvación!
¡Regrésame el sosiego, la paz y la esperanza
cual barco que divisa aquel faro en lontananza!

A tono con la esperanza, algunos de los poemas son manifiestamente infantiles. Si queremos que el cuidado de la lengua ocupe un lugar en las ciudades, hemos de darles su espacio a los niños. Mostrarles cuanto antes lo que nuestra literatura tiene especialmente para ellos.

Pienso, por ejemplo, en “Por la ventana”, la historia de una princesa a la que obligarán a casarse con un príncipe musulmán, pero que, en vez de ir a su boda, se escapa por la ventana.

Mas al sentir la esencia esa mañana
se acordó de su amor primaveral
y audaz se escabulló por la ventana.

Ilustración: Alonso Gutiérrez Espinosa

Éste es el primer poemario de Pedro Peón. Como todo buen primer libro, es doblemente interesante: por lo que hace y por lo que promete. Las ilustraciones, además, son obra del pintor yucateco Alonso Gutiérrez Espinosa; en tonos grises, revelan sin orillas la atmósfera y las escenas a lo largo del libro.

Lee aquí algunos de los poemas de Pedro Peón:
La turbonada
Himno a María
Romance marino
Meditación
Décima a la esperanza

Ilustración: Alonso Gutiérrez Espinosa
MDNMDN