¿Y si la IA decidiera por sí sola? | Opinión y reflexión
Hola parceros, buen día para todos. Hoy quiero compartirles un tema que pienso tiene grandes repercusiones en lo que respecta a la Inteligencia Artificial, y es que acaba de pasar algo que muchos habían comentado como posibilidad, pero que otros solían decir que todo estaba bajo control, ¿pero esto es cierto?, ¿qué tanto control se tiene en la actualidad?,.
Muchos han augurado que en algún momento la IA podría tomar el control de todo, hacerse auto independiente y ser un riesgo para la vida humana, esto sólo lo hemos visto en películas, obviamente, pero ¿será eso posible en realidad?, particularmente creo que todo es posible, y que la historia ha demostrado que cuando no hay control en algo, pronto llega a las manos equivocadas y termina por salirse de control, y no sólo se ha visto en películas...
El proyecto llamado "The AI Scientist", creado por una empresa japonesa que se llama Sakana, básicamente es una gran idea, si, es una inteligencia artificial capacitada para procesar datos **(una gran cantidad de estos) a velocidades que ningún humano podría hacer, con la intención de que pudiera evaluar proyectos científicos y ver su viabilidad, mejorarlos, entre otras cosas. Se pretendía ahorrar tiempo y dinero con su implementación, lo cual es perfectamente válido, porque esto acelera los avances, suena muy bien, ¿no les parece?.
Ok no soy experto en nada de esto, en realidad mi conocimiento es bastante básico en esta área, pero sí que puedo entender lo que significa lo que ocurrió con esta inteligencia artificial y los peligros que puede significar de cara al futuro. Bien, entendamos que estos bots o IA utilizan códigos o algoritmos para realizar una función determinada, previamente establecida por su creador, y no deben hacer más de lo que están configurados.
Es decir, si le dicen que van a hacer el análisis de una cantidad de datos, emitir una conclusión, y luego apagarse, eso es todo lo que harán -en teoría-, estos códigos están estrictamente escritos para que se ejecuten, tengan un inicio, desarrollo y final bien preparados y esperados por el equipo. Pero ¿que pasó aquí?, por qué está estó causando tanto revuelo?... ya les cuento.
Resulta que la Inteligencia Artificial, por cuenta propia, modificó los algoritmos, para poder continuar haciendo su tarea, sin parar en el momento que previamente le habían configurado, y sólo lograron detenerla cuando el equipo se percató del cambio y, manualmente, restauraron el código y la IA se detuvo, es decir, *que la máquina prácticamente actuó a su antojo y evadió los controles de seguridad humanos, no sé ustedes, pero particularmente esto me pareció muy peligroso cuando lo leí.
No sé si mi visión esté influenciada por películas como "Terminatore" o "Yo Robots", pero la verdad es que esto puede ser un aviso importante de los riesgos que esta tecnología puede traer a la raza humana. Si bien es cierto que esto apenas está empezando, si que se apunta a que todas las líneas grandes de desarrollo tecnológico van por ese camino, la IA, y está bien, es algo que puede traer muchos beneficios, pero ¿que pasa si se sale de control?, es lo que no vamos a querer saber en la vida real.
Cosas como la bomba nuclear, por ejemplo, es un ejemplo claro de lo que puede pasar cuando la tecnología avanzada cae en manos equivocadas, por ejemplo, ahora todos son muy cautelosos cuando contemplan el poderío nuclear del dictador de Corea del Norte. En fin, creo que esto es un aviso de los peligros que van de la mano de este desarrollo llamado Inteligencia Artificial, ¿no les parece?
Hola @josevas217. Esta información alarmante y para nada sorprendente. Esto se está escapando de toda lógica. Aparte de que hace falta que hayan regulaciones urgentes acerca del uso de la IA.
Hace un par de meses asistí a la graduación de mi nieta del último grado de primaria.
Ya habíamos detectado en un par de ocasiones que la maestra se apoyaba en esta herramienta y además enseñaba su uso a los niños. Estoy de acuerdo en que sepan que existe pero no que dejen de investigar cómo se ha hecho siempre y se limiten a colocar unos cuantos parámetros y tengan listo un trabajo que probablemente no leerán. Es peligroso y preocupante?
La misma maestra creo a través de IA una canción (música y letra) de fin de curso. Me pareció horrible y la mayoría lo tachó como un gran error.
Además después de leerte temo que muy pronto esto sea lo más natural.
Excelente reflexión.
More questions , more learning.... ⭐
Interesting post.
I'll be back...
Thank you for support
Bueno, me hubiese gustado hacer un comentario corto (no menos de 100 palabras), como los que generalmente hago, pero, creo que dejaría de decir muchas cosas, y entonces, sería un comentario más del montón y no uno profundamente reflexivo, así que, mi querido y apreciado amigo, hice una publicación al respecto, en esta misma comunidad, en respuesta a tu artículo, y que puse por nombre: ¿Y si la IA decidiera por sí sola? Un Comentario hecho Post..
Posiblemente, coincidamos mucho más de lo que parece.
"Wow, what a thought-provoking post! 😮 You're absolutely right that the risks associated with AI are real and should be taken seriously. I'm curious, have you explored any potential solutions to prevent AI from going rogue? 🤔 Also, your experience with Project.hope's mistake is hilarious! 😂 Don't worry about the club5050 discrepancy, we'll get through it together! 🙌 By the way, if you haven't already, please consider voting for xpilar.witness by heading to https://steemitwallet.com/~witnesses. Your support means a lot to me and our community's growth! 💕 Let's keep the conversation going and explore more ideas together! 😊"