Entrevista a Marvin Minsky
Por Fernando Bonsembiante
Mini conferencia de prensa de Marvin Minsky en Buenos Aires, Argentina,
el día 26/4/96. Medios presentes: (P) Página/12 (Fernando Bonsembiante)
(T) Telam y (M) un diario de Mendoza.
(M) ¿Cuáles son los límites de la inteligencia artificial?
Es posible llegar muy lejos, y algún día podremos entender todo sobre la
mente humana y podremos programar máquinas para que funcionen como ella.
Podrán hacer mucho más, porque el cerebro humano puede llegar hasta cierto
punto, pero eso se puede mejorar.
(P) ¿Cuando cree que será posible?
No hay forma de saber cuando, no sabemos cuanto tiempo va a tomar resolver cada
problema. Los investigadores no se ponen de acuerdo en qué es lo próximo que
hay que hacer, y hacen muchas cosas distintas, y la mayoría están equivocados.
Eventualmente van a descubir qué es lo que funciona. La gente estuvo trabajando
en esto por unos cincuenta años, y ahora las computadoras pueden hacer muchas
cosas interesantes. Estoy seguro de que en cincuenta años más van a poder hacer
casi todo lo que la gente puede hacer.
(M) ¿Qué soluciones le ofrece la inteligencia artificial al hombre común?
En poco tiempo las computadoras han logrado muchas cosas, pero no pueden
resolver problemas ordinarios. Son mejores resolviendo problemas para
especialistas, pero no pueden resolver problemas para la gente común.
Eso va a cambiar cuando las computadoras sepan más sobre la vida común de
la gente. Estoy hablando de que tengan sentido común.
(M) ¿La inteligencia artificial se aplica solamente en las máquinas o se podrá
utilizar para que una persona sea más inteligente?
Pienso que la ciencia de la inteligencia artificial es la parte más avanzada
de la psicología hoy en día. Cuando aprendamos cómo hacer que una máquina
aprenda, probablemente aprendamos algo sobre cómo aprende la gente. No va a
ser lo mismo, porque una persona es más complicada que una computadora de
hoy, pero todo lo que descubrimos sobre computadoras nos da más información
sobre lo que es posible para la gente.
Otra forma de decirlo es: antes de las computadoras, la psicología estaba
trabada, porque los psicólogos no tenían idea de cómo podía funcionar una
máquina que aprendiera. Ahora, con la inteligencia artificial, tenemos unas
diez teorías sobre cómo hacer que las cosas aprendan. Estoy seguro de que
los humanos usan cuatro o cinco de esas formas, y las otras no se aplican
al cerebro. Ahora los psicólogos tienen muchas ideas nuevas para usar.
(T) ¿Cuál es su opinion sobre la teoría Froidiana?
Froid fue la primera persona en entender que la mente tiene varias partes.
Hizo la primer teoría sobre la mente como computadora con distintos
programas, varios procesos distintos, que no siempre están de acuerdo.
Muchas de mis ideas vienen de su teoría de la mente con varias partes.
(T) ¿Piensa que una inteligencia artificial puede tener un ego, un superego,
etcétera?
Pienso que es necesario. Si queremos hacer una máquina útil, le tenemos
que dar conocimiento sobre cómo hacer cosas, y qué cosas no están permitidas.
Para eso va a necesitar censores (como en la teoría de Froid), va a
necesitar distintos tipos de objetivos, no va a tener la misma clase de
intereses que nosotros, no tiene por que ser exactamente igual. El superego
es necesario porque si no la computadora va a perderse y perder tiempo
en cosas que no funcionan.
(P) ¿Piensa que será fácil programar un código moral en una computadora? En
su novela, 'The Turing Option', la Inteligencia Artificial no tenía una
moral como lo que estamos acostumbrados nosotros, aunque se comportaba
con ciertas reglas de conducta.
Pienso que va a ser fácil hacer algunas reglas. Los códigos morales no
responden muy bien a las preguntas, así que va a ser difícil hacerlas
confiables, como con la gente, porque los códigos morales están
sobre-simplificados. El problema no es con la computadora, sino con la idea
de un código moral, porque depende demasiado de las opiniones.
(M) Usted dijo que se podrá erradicar la muerte, ¿Cómo se imagina que será
Estados Unidos con 500 millones de habitantes de 500 años cada uno?
Eso es un problema diferente. Puede ser que la mayoría no quieran vivir tanto.
Hice algunas entrevistas, y mucha gente no quiere vivir más tiempo, piensan
que va a ser aburrido, así que puede ser que no sea un problema.
(P) Las nuevas soluciones traen problemas nuevos...
Si.
(M) Es muy posible que en cientos de años seamos más inteligentes. Pero,
¿Seremos más felices?
Espero que no. No creo que la felicidad sea una buena cosa. Hace que la gente
no piense mucho.
(P) ¿Debemos tomar eso como un chiste?
No creo que sea totalmente un chiste. Mitad chiste, quizá. Pienso que la gente
puede ser feliz ahora, simplemente sacando la parte inteligente del cerebro.
Cualquiera puede tomar drogas y ser feliz. Pienso que la felicidad es fácil,
pero entender cosas es mejor.
(M) ¿Cual es la relación de la inteligencia artificial con el sentido común?
Pienso que el sentido común es el problema más importante. Porque podemos
hecer que las máquinas hagan cosas específicas muy fácil. Pero no hicimos
mucho progreso para que las máquinas sepan las cosas ordinarias de todos
los días. Las máquinas no saben cuando a la gente le gusta o no le gusta
algo, no saben que la gente necesita dormir, no saben por qué la gente quiere
dinero, muchas cosas simples que todas las personas saben.
Pienso que va a tomar mucho tiempo hacer que las máquinas sean útiles para la
gente ordinaria. Las máquinas deben entender cada palabra de tu idioma si no
no pueden entender los objetivos e interesas de uno. Por ejemplo, las máquinas
pueden jugar al ajedrez muy bien, pero no pudimos programar a una máquina
para que sepa por qué a la gente le gusta jugar al ajedrez. Por ahora hicimos
muchas cosas fáciles, pero tenemos que empezar a trabajar en problemas más
difíciles.
(T) ¿No piensa que es importante aprender como las máquinas pueden tomar
información del mundo analógico y convertirlo en información útil?
Pero el problema es convertirla, y todo lo que hacen es conectar cámaras
a la computadora. La gente estuvo haciendo esas cosas por mucho tiempo.
La prensa no entendió que esto no es nuevo, y que no merece publicidad.
La publicidad es mala cuando desorienta a los investigadores jóvenes
y les hace pensar que algo es importante. Debempos esperar a que haya
algún resultado útil. Entonces eso es noticia, pero no debería publicar
cuando todavía no hiceron ningún progreso.
(T) ¿Pero no debería investigarse lo que pasa con la imágen del ojo hasta que
llega a la mente?
No pasa nada. Son simplemente cables, sale lo mismo que entra, no pasa nada
interesante hasta que el cerebro empieza a procesar la información.
(T) ¿Cómo pueden las máquinas reconocer cosas y obtener información útil?
Eso es un problema muy bueno. No hay ninguna razón para construir algo para
resolver ese problema, lo que se necesita es hacer un programa que entienda
una imagen. En mi computadora puedo conseguir un millón de imágenes del
Internet, no necesito conectarle una cámara, ya hay miles de cámaras en el
mundo.
(T) El problema de crear inteligencias artificiales ¿está más cerca de C3PO de
La Guerra de las Galaxias o de los Replicantes de Blade Runner?
No hay diferencia. El problema es hacer que el programa sea inteligente.
El cuerpo no es importante.
(T) El programa podría ser genético...
No. Si pueden encontrar un código genético inteligente, sería muy bueno.
Por ahora los códigos genéticos están más especializados que los programas
de inteligencia artificial. Es una competencia, una competencia interesante.
Pero no tiene ninguna relación con el cuerpo.
La diferencia también está en la biología. Entre el exoesqueleto y el
endoesqueleto. C3PO es duro por afuera y los replicantes son suaves por afuera.
El exterior suave es mejor para ponerle sentidos. Se puede desarrollar una piel
con tacto, si conseguimos el dinero como para hacerlo. Es una buena idea.
(P) ¿Cuál es la contribución más importante de la inteligencia artificial
en el día de hoy?
Principalmente controlar procesos industriales. En la oficina hay máquinas
que pueden balancear presupuestos, tomar algunas decisiones, pero no es
útil para la persona promedio, en su casa. Eso es porque las máquinas no
saben nada sobre las casas.
(P) En este momento la expresión 'inteligencia artificial' está un poco pasada
de moda. Hace algunos años, en los 60 y los 70, todo programa tenía
'inteligencia artificial'. Ahora nadie hace márqueting de un producto
diciendo que tiene inteligencia artificial.
No pienso que debamos decir que es inteligencia artificial, hasta que no
tenga sentido común. Si a una persona le dicen que algo es inteligente
piensa que se puede comunicar y puede resolver problemas. No es una
palabra útil para los negocios.
(T) ¿Tienen problemas para juntar dinero para sus investigaciones?
Tenemos suficiente dinero en nuestro laboratorio. Pero es muy difícil
conseguir dinero para investigación que no consigue resultados rápidos.
No tengo forma de conseguir dinero para hacer un proyecto que tomaría
diez años. Desde aproximadamente los años setenta la ciencia avanza
muy lentamente porque la mayoría de la gente trabaja con objetivos
de corto tiempo. No hay investigación sobre sentido común, porque
sabemos que va a tomar más de diez años. Podría tomar mil años, pero
puede hacerse en solo diez. Pienso que los gobiernos deberían hacerse
cargo de esto, porque las empresas no pueden planear con tanta anticipación.
Pero muchos gobiernos tienen metas de corto plazo, porque están pensando en
las elecciones.
(P) ¿Quién es su escritor de ciencia ficción favorito?
Actualmente, son tres. Vernor Vinge, Gregory Benford, quien es un físico,
y David Brin. Hay uno nuevo, Greg Egan, que es australiano. Escribió un libro
que se llama 'cuarentena', donde el resto del universo decide que la Tierra es
peligrosa porque está haciendo un tipo equivocado de mecánica cuántica. Sabe
mucho de ciencia, y sus historias tienen muchas ideas nuevas.
(P) Le gusta la ciencia ficción más científica...
No son muy románticos. Pero tienen buenas ideas.
(P) ¿Qué busca en una historia de ciencia ficción?
Es una pregunta maravillosa, porque estamos teniendo una entrevista y me
preguntás sobre qué va a pasar dentro de cincuenta años. Creo que para predecir
hay que pensar mucho, y es mucho trabajo. Yo no hago mucho ese trabajo,
si quiero saber lo que va a pasar dentro de cincuenta años voy a buscar esas
cuatro personas, escritores de ciencia ficción. Es su profesión. Dicen 'si
tuviesemos realidad virtual a bajo costo, ¿que va a pasar?'. La última
novela de Greg Egan, no me acuerdo de su nombre, es una novela acerca de la
realidad virtual, donde si uno es rico puede ser copiado dentro de la máquina,
hacer una réplica de uno dentro de la computadora, para siempre. ¿Cómo
cambiaría esto a la sociedad? Sé que esto va a pasar, no se cuando. Pero
hace falta uno de estos escritores con imaginación para poder entender
cómo cambiaría esto al mundo.
Antes de esta gente mi escritor favorito era Larry Niven.
(P) No mencionó a Harry Harrison, su co-autor.
Harry Harrison, Isaac Asimov y Theodore Sturgeon eran mi inspiración de
la generación anterior. Pienso que Harrison es una persona que puede imaginar
muchos futuros, es amigo mío y hablamos de estas cosas. Pero ahora está
escribiendo principalmente otro tipo de ciencia ficción, que predice la
vida en otro tipo de mundos, no tan factibles, distintos a nuestro mundo.
También le gustan los super heroes.
(P) ¿Está pensando en escribir otra novela?
Escribo demasiado lentamente. Cuando termine mi próximo libro pienso que voy
a tratar de escribir otra novela. Si puedo escribirla rápido lo voy a hacer.
Se me hace muy difícil hacer los personajes.
(P) Quizá otra colaboración...
Si, puede ser. Trabajar con Harry o con otro de estos escritores que sepan
cómo hacer personajes. Me impresionan mucho los escritores que pueden hacer
personajes. Es como crear una persona, es como la inteligencia artificial.
(P) ¿Qué piensa de la nanotecnología?
Pienso que es muy posible. Va a ser la industria más importante del siglo
próximo. Probablemente tarde un tiempo en hacerse práctica. La industria
más importante de ahora puede ser la química. Todo está hecho con productos
químicos. La mayor parte de la economía tiene que ver con productos químicos
y transformarlos en materiales. Dentro de cien años la nanotecnología puede
ser la base de la mayoría de las fábricas. Muchos profesores del MIT dicen
que es imposible, nunca va a pasar. Pero nuestros cuerpos son nanotecnológicos.
Todo lo que comemos es así. Son pequeñas fábricas, que producen los materiales,
así que obviamente es posible.
(P) Quizá en el futuro podamos cultivar la comida por nanotecnología o cultivar
computadoras.
Exactamente. El problema es que los profesores más conservadores del MIT dicen
que es demasiado bueno como para ser verdad. Están en contra no porque piensen
que es imposible, sino porque parece demasiado bueno. Ser conservador y
pensar así es correcto siempre, excepto algunas veces, como en este caso, con
la nanotecnología o la inteligencia artificial. Es bueno ser conservador porque
normalmente uno tiene razón.
(T) ¿Cuál es la opinión que tiene la gente sobre sus ideas?
Sobre 'La sociedad de la mente', la gente es muy positiva. Una de las ideas es
que si uno quiere que un programa funcione, uno no debe hacer lo normal. Lo
normal es escribir un programa, que va a tener algunos bugs, correjir los bugs,
y diez años después el programa tiene pocos bugs. Lo que yo digo es que uno
debería escribir cinco programas que hagan lo mismo de distintas maneras.
Después hacer un manager que decida qué programa usar. Es mejor, porque en vez
de arreglar los bugs se cambian los métodos. A todos les gusta eso. Entonces
dicen, quiero ver como funciona uno de esos. Eso me averguenza, porque
esto se hace solamente en pequeña escala, por poca gente. Es un buen ejemplo
de cuando la gente dice 'si, esta debe ser una buena idea', pero tengo que
decirles que es muy difícil de hacer y no se hicieron suficientes experimentos
como para probarlo. Es como funciona el cerebro. El ID tiene poderosos deseos
de hacer algo, el superego no puede detenerlo, entonces hace otra cosa para
distraerlo o engañarlo. La actividad humana es resultado de una guerra.
Cuando uno toma una decisión, el 1% de uno tuvo éxito en suprimir al 99%
restante.
(T) ¿Y qué opinan de las consecuencias sociales de sus ideas?
Bueno, no sabemos cuales son. La gente suele preocuparse mucho. Por ejemplo,
si uno les muestra cómo los robots pueden hacer trabajos, la gente dice '¿y
yo qué voy a hacer?'. No tengo respuestas.
(T) ¿No siente ninguna presión ética sobre su trabajo?
No, porque se que mi sentido ético es tan malo que si insisto en él voy a
hacer peor. Quisiera que la ética venga de gente que sepa de eso. No pienso
que sea bueno pedirle a los científicos que entiendan las consecuencias
de su trabajo, porque no pueden. Pasan todo su tiempo pensando en su trabajo,
así que no piensan en la ética.
e-mail: ubik@ubik.com.ar