Semilla de Inteligencia Artificial

      1 Comentario en Semilla de Inteligencia Artificial

El ritmo de progreso en Inteligencia Artificial es increíblemente rápido. A menos que estés involucrado con grupos como DeepMind, no tienes idea de lo rápido que está creciendo, es a un ritmo casi exponencial. El riesgo de que ocurra algo seriamente peligroso está en un rango de cinco años. Diez como máximo

– Elon Musk (2014, en un comentario en Edge.org)

En su libro “Superinteligencia: Caminos, Peligros, Estrategias”, Nick Bostrom discute en gran detalle sobre la creación de una “Semilla de Inteligencia Artificial”, lo cual se refiere a un sistema inteligente con un buen nivel de Inteligencia genérica. Con esa Inteligencia genérica, el sistema puede comenzar a mejorarse así mismo al reescribir y optimizar sus propios algoritmos de inteligencia. Esto dará lugar a un sistema con Inteligencia que aumentará de manera exponencial. En cuestión de horas, esta semilla pasará de poseer inteligencia de nivel humano a tener una súper inteligencia. Y es aquí en donde se presenta uno de los mayores peligros.

Nadie sabe qué tan difícil será crear la Semilla de IA. Podría ser que una inteligencia artificial genérica sea extremadamente complicada e incluso en el futuro distante se requerirá de equipos enteros de científicos para poder ser construida. O tal vez un pequeño grupo de aficionados esté a unos cuantos pasos de crear esta semilla; si este es el caso, la creación de la semilla de IA (y por lo tanto, Superinteligencia) podría suceder antes de que hayamos planeado como controlar y utilizar adecuadamente este súper sistema.

Debemos poder definir metas claras para la súper IA antes de su creación. Si creamos una semilla cuyo único objetivo sea demostrar teoremas matemáticos en lugar de ayudar al progreso de la humanidad (esto debido a que sea más fácil de codificar), podríamos enfrentar un conflicto por retomar el control de una máquina que es cientos de veces más inteligentes que cualquier grupo de seres humanos (y potencialmente mucho más astuta), cuya única meta sea completamente independiente de la civilización humana.

Esta es solo una parte de la discusión que debemos tener. La IA es como la tecnología nuclear en el sentido de que representa grandes peligros pero también un gran beneficio. Esta es la razón por la Elon Musk dijo que debemos establecer regulaciones y vigilancia Federales e Internacionales. Y debemos hacer esto bien a la primera porque fácilmente podría salirse de control para siempre.

Comentario de Elon Mush en Edge.org sobre El Progreso exponencial en IA

Comentario de Elon Mush en Edge.org sobre el progreso exponencial en IA

Con el buen uso de la Superinteligencia, el mundo sería transformado; sería análogo a otra revolución industrial pero con un alcance mucho mayor.

Referencia:
Nick Bostrom