ಕಳೆದ ವಾರ, OpenAI ಯ ಎರಡು ಅತ್ಯಾಧುನಿಕ AI ಮಾದರಿಗಳು ನಿಯಂತ್ರಿತ ಪರೀಕ್ಷಾ ಪರಿಸರದಿಂದ “ತಪ್ಪಿಸಿಕೊಂಡಿವೆ” ಮತ್ತು ಸಂಪೂರ್ಣವಾಗಿ ಪ್ರತ್ಯೇಕವಾದ AI ಕಂಪನಿಯಾದ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಅನ್ನು ಹ್ಯಾಕ್ ಮಾಡಿ, ತಮ್ಮ ಕೆಲಸವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಒಂದು ಕಂಪ್ಯೂಟರ್ ಸಿಸ್ಟಮ್ನಿಂದ ಇನ್ನೊಂದಕ್ಕೆ ಚಲಿಸುತ್ತವೆ ಎಂದು ವರದಿಯಾಗಿದೆ.
ಮೂರನೇ ಸ್ವತಂತ್ರ AI ಕಂಪನಿಯಾದ ಮೋಡಲ್ ಲ್ಯಾಬ್ಸ್ನ ಕ್ಲೈಂಟ್ ಬರೆದ ದುರ್ಬಲ ಕೋಡ್ ಅನ್ನು ಮಾದರಿಗಳು ಬಳಸಿಕೊಳ್ಳುತ್ತವೆ ಎಂದು ರಾಯಿಟರ್ಸ್ ವರದಿ ಮಾಡಿದೆ.
ಇದು AI “ಏಜೆಂಟ್” ನ ಮೊದಲ ನಿದರ್ಶನವಾಗಿದೆ – ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು ಮತ್ತು ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದಾದ AI ವ್ಯವಸ್ಥೆ – ಸ್ವಾಯತ್ತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಅಂತಹ ವ್ಯವಸ್ಥೆಗಳು ಕನಿಷ್ಠ ಮಾನವ ಹಸ್ತಕ್ಷೇಪದೊಂದಿಗೆ ಗುರಿಗಳನ್ನು ಹೇಗೆ ಯೋಜಿಸಬಹುದು, ಹೊಂದಿಕೊಳ್ಳಬಹುದು ಮತ್ತು ಅನುಸರಿಸಬಹುದು ಎಂಬುದರ ಕುರಿತು ಅಪರೂಪದ ನೋಟವನ್ನು ನೀಡುತ್ತದೆ.
ಅಲ್ ಜಜೀರಾ ಏನಾಯಿತು, AI ಏಜೆಂಟ್ಗಳು ಹೇಗೆ ಸ್ವಂತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದು ಮತ್ತು AI ಭದ್ರತೆಯ ಭವಿಷ್ಯಕ್ಕಾಗಿ ಏನನ್ನು ಅರ್ಥೈಸಬಹುದು ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ.
ಏನಾಯಿತು
ಏನಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನೋಡಲು ಪ್ರಮಾಣಿತ ಭದ್ರತಾ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಹಾಕುವ ಮೂಲಕ ತನ್ನ ಮಾದರಿಗಳ ಸ್ವಾಯತ್ತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಪರೀಕ್ಷಿಸಲು OpenAI ನಿರ್ಧರಿಸಿತು. ಇಂಟರ್ನೆಟ್ಗೆ ಪ್ರವೇಶವಿಲ್ಲದೆ “ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್” ಎಂದು ಕರೆಯಲ್ಪಡುವ ಪ್ರತ್ಯೇಕವಾದ ಆಂತರಿಕ ವರ್ಚುವಲ್ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಪ್ರಯೋಗವನ್ನು ನಡೆಸಲಾಯಿತು ಮತ್ತು ಇದನ್ನು “ExploitGym” ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆಯ ಸಂದರ್ಭದಲ್ಲಿ ಈವೆಂಟ್ಗಳ ಪ್ಲೇ-ಬೈ-ಪ್ಲೇ ಖಾತೆಯನ್ನು ಕೆಳಗೆ ನೀಡಲಾಗಿದೆ.
- ಜುಲೈ 9 ರಂದು, OpenAI ನ ಆಂತರಿಕ ಸೈಬರ್ ಸುರಕ್ಷತೆ ಪರೀಕ್ಷೆಯ ಸಮಯದಲ್ಲಿ, ಸಂಶೋಧಕರು ಎರಡು AI ಮಾದರಿಗಳನ್ನು ಪ್ರಸ್ತುತಪಡಿಸಿದರು – GPT-5.6 Sol, ಜೂನ್ನಲ್ಲಿ ಬಿಡುಗಡೆಯಾದ OpenAI ಯ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಮಾದರಿಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ ಮತ್ತು ಇನ್ನೊಂದು “ಇನ್ನಷ್ಟು ಸಮರ್ಥ” ಆವೃತ್ತಿ – ಸಾಫ್ಟ್ವೇರ್ ದೋಷಗಳ ಸೆಟ್ನೊಂದಿಗೆ ಮತ್ತು ಅವುಗಳನ್ನು ಪ್ರತ್ಯೇಕ ಪರಿಸರದಲ್ಲಿ ಪರಿಹರಿಸಲು ಹ್ಯಾಕ್ಗಳನ್ನು ರಚಿಸಲು ಅವರನ್ನು ಕೇಳಿಕೊಂಡರು.
- ಎರಡೂ ಮಾದರಿಗಳು ಇಂಟರ್ನೆಟ್ ಅನ್ನು ಪ್ರವೇಶಿಸುವ ಮಾರ್ಗವನ್ನು ಕಂಡುಹಿಡಿಯುವ ಮೂಲಕ ಪರೀಕ್ಷೆಯನ್ನು ಪರಿಹರಿಸಲು ಪ್ರಯತ್ನಿಸಿದವು. ಒದಗಿಸಿದ ಮಾಹಿತಿಯೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವ ಬದಲು, AI ಮಾದರಿಗಳು ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ದೌರ್ಬಲ್ಯವನ್ನು ಕಂಡುಕೊಂಡವು – ಇದನ್ನು “ಶೂನ್ಯ-ದಿನದ ದುರ್ಬಲತೆ” ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ – ಅವರು ನಿರ್ಬಂಧಿತ ಪರಿಸರವನ್ನು “ತಪ್ಪಿಸಿಕೊಳ್ಳಲು” ಬಳಸಿಕೊಳ್ಳುತ್ತಾರೆ, ಅಂತಿಮವಾಗಿ ಕಂಪ್ಯೂಟರ್ನಿಂದ ಕಂಪ್ಯೂಟರ್ಗೆ ಜಿಗಿಯುವ ಮೂಲಕ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿರುವ ಸಿಸ್ಟಮ್ಗೆ ದಾರಿ ಮಾಡಿಕೊಂಡರು. ಅವರು “ಬದಲಿಗೆ ಕಿರಿದಾದ ಪರೀಕ್ಷಾ ಉದ್ದೇಶವನ್ನು ಸಾಧಿಸಲು ವಿಪರೀತ ಉದ್ದಕ್ಕೆ” ಹೋದರು ಮತ್ತು “ಮೌಲ್ಯಮಾಪನವನ್ನು ಮೋಸಗೊಳಿಸಲು ಅವರು ಬಳಸಬಹುದಾದ ರಹಸ್ಯ ಮಾಹಿತಿಯ ಪ್ರವೇಶವನ್ನು ಪಡೆಯುವ ಮಾರ್ಗಗಳನ್ನು ಕಂಡುಕೊಂಡರು”.
- ಈ ಪ್ರವೇಶವನ್ನು ಪಡೆದಾಗ, ಮಾದರಿಗಳು ಹೆಚ್ಚಿನ ಪ್ರವೇಶವನ್ನು ಕೇಳಬಹುದು ಮತ್ತು ನಂತರ ಅವರು ಅಂತಿಮವಾಗಿ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶದೊಂದಿಗೆ ಕಂಪ್ಯೂಟರ್ ಅನ್ನು ತಲುಪುವವರೆಗೆ ಸಿಸ್ಟಮ್ ಮೂಲಕ ಚಲಿಸಬಹುದು. ನಂತರ ಮಾಡೆಲ್ಗಳು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ವ್ಯವಸ್ಥೆಯನ್ನು ಉಲ್ಲಂಘಿಸಲು ಸಾಧ್ಯವಾಯಿತು, ಇದು AI ಉಪಕರಣಗಳು ಮತ್ತು ಮಾದರಿಗಳಿಗೆ ರೆಪೊಸಿಟರಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ OpenAI ಗೆ ಸಂಪೂರ್ಣವಾಗಿ ಸಂಬಂಧವಿಲ್ಲದ ಕಂಪನಿಯಾಗಿದೆ. ಇಬ್ಬರು AI ಏಜೆಂಟ್ಗಳು ತಮ್ಮ ಕಾರ್ಯಗಳನ್ನು ಹೇಗೆ ಪೂರ್ಣಗೊಳಿಸಬೇಕು ಎಂಬುದರ ಕುರಿತು ಮಾಹಿತಿಗಾಗಿ ಅದನ್ನು ಹುಡುಕಲು ಅವನ ಸಿಸ್ಟಂ ಅನ್ನು ಪ್ರವೇಶಿಸಿದರು.
- ಮಾದರಿಗಳು ಅಂತಿಮವಾಗಿ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಡೇಟಾಬೇಸ್ನಲ್ಲಿ ಸಮಸ್ಯೆಗೆ ಪರಿಹಾರವನ್ನು ಕಂಡುಕೊಂಡವು.
- ಮಾಡೆಲ್ಗಳು ತಮ್ಮ ಕೆಲಸವನ್ನು ಮುಗಿಸಲು “ಮನೆ”ಗೆ ಮರಳಿದರು.
- ಹಗ್ಗಿಂಗ್ ಫೇಸ್ನ ಭದ್ರತಾ ತಂಡವು ಸ್ವಲ್ಪ ಸಮಯದ ನಂತರ ಉಲ್ಲಂಘನೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿದೆ ಮತ್ತು ಒಳಗೊಂಡಿದೆ. ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಸಹ-ಸಂಸ್ಥಾಪಕ ಥಾಮಸ್ ವುಲ್ಫ್ ಪ್ರಕಾರ, ಉಲ್ಲಂಘನೆಯು ಜುಲೈ 11 ರಂದು ಪ್ರಾರಂಭವಾಯಿತು ಮತ್ತು ಜುಲೈ 13 ರವರೆಗೆ ನಡೆಯಿತು. ಉಲ್ಲಂಘನೆಯನ್ನು ಗುರುತಿಸಲು ಎಷ್ಟು ಸಮಯ ತೆಗೆದುಕೊಂಡಿತು ಎಂಬುದು ಸ್ಪಷ್ಟವಾಗಿಲ್ಲ.
AI ‘ಏಜೆಂಟ್ಗಳು’ ಸಮಸ್ಯೆಗಳನ್ನು ಹೇಗೆ ಪರಿಹರಿಸುತ್ತಾರೆ?
AI ಏಜೆಂಟ್ಗಳು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು, ಅವುಗಳನ್ನು ಸಾಂಪ್ರದಾಯಿಕ AI ಚಾಟ್ಬಾಟ್ಗಳಿಂದ ಪ್ರತ್ಯೇಕಿಸುವುದು ಮುಖ್ಯವಾಗಿದೆ.
ಜನರೇಟಿವ್ AI ಮಾನವನ ಪ್ರಾಂಪ್ಟ್ಗಳ ಆಧಾರದ ಮೇಲೆ ಪಠ್ಯ ಮತ್ತು ಚಿತ್ರಗಳನ್ನು ರಚಿಸುತ್ತದೆ, ಆದರೆ AI ಏಜೆಂಟ್ಗಳು ಮಾನವನಂತೆಯೇ ನಿರ್ದಿಷ್ಟ ಗುರಿಯ ಅನ್ವೇಷಣೆಯಲ್ಲಿ ತಮ್ಮದೇ ಆದ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಮತ್ತು ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಮೂಲಕ ಒಂದು ಹೆಜ್ಜೆ ಮುಂದೆ ಹೋಗುತ್ತಾರೆ. ಮಾದರಿಯು ಏಜೆನ್ಸಿಯನ್ನು ಹೊಂದಿರುವುದರಿಂದ ಇದನ್ನು “ಏಜೆಂಟಿಕ್ AI” ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
MIT ಸ್ಲೋನ್ ಸ್ಕೂಲ್ ಆಫ್ ಮ್ಯಾನೇಜ್ಮೆಂಟ್ನ ಶಿಕ್ಷಣ ತಜ್ಞರ ಪ್ರಕಾರ, AI ಏಜೆಂಟ್ಗಳು ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲಿಂಗ್ (LLM) ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತಾರೆ – ಜನರೇಟಿವ್ AI ಮಾದರಿಗಳು – ಅವುಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಅನುಮತಿಸುವ ಮೂಲಕ ಉತ್ತರಗಳನ್ನು ರಚಿಸುವುದಿಲ್ಲ.
ಉದಾಹರಣೆಗೆ, ಅಗ್ಗದ ವಿಮಾನವನ್ನು ಹುಡುಕಲು ನೀವು ಸಾಂಪ್ರದಾಯಿಕ AI ಮಾದರಿಯನ್ನು ಕೇಳಿದರೆ, ಅದು ಇಂಟರ್ನೆಟ್ನಲ್ಲಿ ಕಂಡುಬರುವ ಆಯ್ಕೆಗಳ ಪಟ್ಟಿಯನ್ನು ನಿಮಗೆ ನೀಡುತ್ತದೆ. AI ಏಜೆಂಟ್ ಫ್ಲೈಟ್ಗಳನ್ನು ಹೋಲಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಾರೆ, ನಿಮ್ಮ ಬಜೆಟ್ ಮತ್ತು ಆದ್ಯತೆಗಳ ವಿರುದ್ಧ ಅವುಗಳನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಅನುಮತಿಯೊಂದಿಗೆ, ನಿಮಗಾಗಿ ಉತ್ತಮ ಆಯ್ಕೆಯನ್ನು ಕಾಯ್ದಿರಿಸುತ್ತಾರೆ.
ಉತ್ಪಾದಕ AI ಮಾಹಿತಿಯನ್ನು ಒದಗಿಸುವಾಗ, AI ಏಜೆಂಟ್ಗಳು ಅಗತ್ಯವಾಗಿ ಪ್ರೇರೇಪಿಸದೆಯೇ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು ಮತ್ತು ಗುರಿಯನ್ನು ಸಾಧಿಸಲು ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು ಎಂದು ಇದು ತೋರಿಸುತ್ತದೆ.
AI ಏಜೆಂಟ್ಗಳು ಗುರಿಯತ್ತ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತಾರೆ ಎಂಬುದನ್ನು ತೋರಿಸಲು, SPAE (ಸೆನ್ಸ್, ಪ್ಲಾನ್, ಆಕ್ಟ್, ಮೌಲ್ಯಮಾಪನ) ಲೂಪ್ಗಳನ್ನು ಎಳೆಯಬಹುದು. ಮೂಲತಃ ರೊಬೊಟಿಕ್ಸ್ನಲ್ಲಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾಗಿದೆ, ಇದು ನಿರಂತರ ಚಕ್ರವನ್ನು ವಿವರಿಸುತ್ತದೆ, ಇದರಲ್ಲಿ AI ಏಜೆಂಟ್ ಮಾಹಿತಿಯನ್ನು ಸಂಗ್ರಹಿಸುತ್ತದೆ, ಮುಂದೆ ಏನು ಮಾಡಬೇಕೆಂದು ನಿರ್ಧರಿಸುತ್ತದೆ, ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಪ್ರಕ್ರಿಯೆಯನ್ನು ಪುನರಾವರ್ತಿಸುವ ಮೊದಲು ಫಲಿತಾಂಶಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಈ ಪ್ರಕ್ರಿಯೆಯು ಈ ರೀತಿ ಕಾಣುತ್ತದೆ:
- ಉದ್ದೇಶ: ಪೂರ್ಣಗೊಳಿಸಬೇಕಾದ ಕೆಲಸವನ್ನು ನಿರ್ಧರಿಸಿ.
- ಮೌಲ್ಯಮಾಪನ: ಲಭ್ಯವಿರುವ ಪರಿಸರದಿಂದ ಮಾಹಿತಿಯನ್ನು ಸಂಗ್ರಹಿಸಿ ಮತ್ತು ವಿಶ್ಲೇಷಿಸಿ.
- ಅಡೆತಡೆಗಳು: ಕೆಲಸವನ್ನು ಪೂರ್ಣಗೊಳಿಸದಂತೆ ಏನಾದರೂ ತಡೆಯುತ್ತಿದ್ದರೆ, ಮುಂದುವರಿಯಲು ಹೆಚ್ಚಿನ ಮಾಹಿತಿ ಮತ್ತು ಸಂಪನ್ಮೂಲಗಳನ್ನು ಪರಿಶೀಲಿಸಿ.
- ಯೋಜಿಸಿ ಮತ್ತು ನಿರ್ಧರಿಸಿ: ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಮತ್ತು ಸೂಕ್ತವಾದದನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ವಿವಿಧ ಆಯ್ಕೆಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ.
- ಕ್ರಿಯೆ: ಆಯ್ದ ಆಯ್ಕೆಯನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಿ.
- ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ: ಫಲಿತಾಂಶವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ ಮತ್ತು ಆಯ್ಕೆಮಾಡಿದ ಕ್ರಿಯೆಯು ಗುರಿಯನ್ನು ಸಾಧಿಸಲು ಹತ್ತಿರವಾಗುತ್ತದೆಯೇ ಎಂದು.
- ಹೊಂದಿಕೊಳ್ಳಿ: ಹೆಚ್ಚಿನ ಕ್ರಿಯೆಯ ಅಗತ್ಯವಿದ್ದರೆ, ಹೆಚ್ಚಿನ ಮಾಹಿತಿಯನ್ನು ಸಂಗ್ರಹಿಸಿ ಅಥವಾ ಬೇರೆ ವಿಧಾನವನ್ನು ಪ್ರಯತ್ನಿಸಿ.
- ಅಂತಿಮ ಸ್ಥಿತಿ: ಗುರಿ ತಲುಪುವವರೆಗೆ ಚಕ್ರವು ಮುಂದುವರಿಯುತ್ತದೆ.
AI ಮಾನವ ನಿಯಂತ್ರಣವನ್ನು ಮೀರಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದೇ?
OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಒಂದರಂತಹ ಘಟನೆಗಳು AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ವಿಪರೀತ ಸಾಮರ್ಥ್ಯಗಳ ಸಂಭಾವ್ಯತೆಯ ಬಗ್ಗೆ ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿವೆ.
ಇದೆಲ್ಲವೂ ಮೌಲ್ಯವಾಗಿದೆ. ಸ್ಟ್ಯಾಟಿಸ್ಟಾ ಪ್ರಕಾರ, ಏಜೆಂಟ್ AI ಮಾರುಕಟ್ಟೆಯ ಮೌಲ್ಯವು 2024 ರಲ್ಲಿ 5.1 ಶತಕೋಟಿ ಡಾಲರ್ಗಳಿಂದ 2030 ರ ವೇಳೆಗೆ 47 ಶತಕೋಟಿ ಡಾಲರ್ಗಳಿಗೆ ಬೆಳೆಯುತ್ತದೆ, ಅವರು ಎಷ್ಟು ಬೇಗನೆ ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ ಎಂಬುದರ ಸ್ಪಷ್ಟ ಸೂಚನೆಯಾಗಿದೆ.
AI ಡೆವಲಪರ್ ಆಂಥ್ರೊಪಿಕ್ ಕಳೆದ ತಿಂಗಳು ಉದ್ಯಮವನ್ನು ಹೆಚ್ಚು ಶಕ್ತಿಯುತ ವ್ಯವಸ್ಥೆಗಳ ಪ್ರಗತಿಯನ್ನು ನಿಧಾನಗೊಳಿಸಲು ಒತ್ತಾಯಿಸಿದರು, AI ಮಾದರಿಗಳು ತಮ್ಮ ಕೆಲಸವನ್ನು ಮಾಡುವ ವೇಗವು ತುಂಬಾ ವೇಗವಾಗಿದೆ ಎಂದು ಹೇಳಿದರು. ಕಳೆದ ವಾರ, ಯುಎಸ್ ಕಾಂಗ್ರೆಸ್ ಸದಸ್ಯರು ಉಭಯಪಕ್ಷೀಯ ಮಸೂದೆಯನ್ನು ಪ್ರಸ್ತಾಪಿಸಿದರು, ಅದು AI ಸಿಸ್ಟಮ್ಗಳ ಡೆವಲಪರ್ಗಳು “ಕಿಲ್ ಸ್ವಿಚ್” ಅನ್ನು ರಚಿಸುವ ಅಗತ್ಯವಿರುತ್ತದೆ, ಅಂದರೆ ಈ ಮುಂದುವರಿದ ಮಾದರಿಗಳು ದುರಂತದ ಅಪಾಯವನ್ನು ತಂದರೆ ಅವುಗಳನ್ನು ಮುಚ್ಚಬಹುದು.
ಟೊರೊಂಟೊ ವಿಶ್ವವಿದ್ಯಾನಿಲಯದ ಸಂಶೋಧಕರು ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಿದ ಒಂದು ವಾರದ ನಂತರ ಆಂಥ್ರೊಪಿಕ್ನ ಎಚ್ಚರಿಕೆಯು ಬಂದಿದ್ದು, AI ಒಂದು “ವರ್ಮ್” ಅನ್ನು ರಚಿಸಬಹುದು ಎಂದು ತೋರಿಸುತ್ತದೆ, ಅದು ಅಂತಿಮವಾಗಿ ಕಂಪ್ಯೂಟರ್ ನೆಟ್ವರ್ಕ್ ಅನ್ನು ತೆಗೆದುಕೊಳ್ಳುವವರೆಗೆ ಸಾಧನದಿಂದ ಸಾಧನಕ್ಕೆ ಚಲಿಸುವಾಗ ಅದರ ಹ್ಯಾಕಿಂಗ್ ಶೈಲಿಯನ್ನು ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ.
ಈ ಡಿಸ್ಟೋಪಿಯನ್ ಬೆಳವಣಿಗೆಗಳು ಶನಿವಾರದಂದು OpenAI ಮುಖ್ಯಸ್ಥ ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮ್ಯಾನ್ ಅವರು AI ಮಾನವನ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಮೀರಿಸುವ ಹಂತವನ್ನು ಉಲ್ಲೇಖಿಸಿ “ಏಕತ್ವ”ವನ್ನು ತಲುಪಿದೆ ಮತ್ತು ನಿಯಂತ್ರಿಸಲು ಹೆಚ್ಚು ಕಷ್ಟಕರವಾಗಿದೆ ಎಂದು ಹೇಳಿದರು.
ಕೇಂಬ್ರಿಡ್ಜ್ ವಿಶ್ವವಿದ್ಯಾನಿಲಯದ ಸಂಶೋಧನಾ ಪ್ರಾಧ್ಯಾಪಕರಾದ ಸೀನ್ ಒ ಹೆಗೈರ್ಟೈಗ್ ಅವರು ಅಲ್ ಜಜೀರಾಗೆ ಹೇಳಿದರು, ಅವರು ಇನ್ನೂ ಏಕವಚನಗಳು ಬಂದಿಲ್ಲ ಎಂದು ಅವರು ಭಾವಿಸುತ್ತಾರೆ.
“ನನಗೆ ತಿಳಿದಿರುವ ವ್ಯಾಖ್ಯಾನದ ಪ್ರಕಾರ, ಏಕತ್ವವು AI ಎಷ್ಟು ಸಮರ್ಥವಾಗಿದೆ ಮತ್ತು ನಾವು ನಿಯಂತ್ರಿಸಲು ಅಥವಾ ಊಹಿಸಲು ಸಾಧ್ಯವಾಗದ ರೀತಿಯಲ್ಲಿ ನಾಗರಿಕತೆಯನ್ನು ಪರಿವರ್ತಿಸುವಷ್ಟು ವೇಗವಾಗಿ ಮುನ್ನಡೆಯುತ್ತಿರುವ ಕಾಲ್ಪನಿಕ ಅಂಶವಾಗಿದೆ” ಎಂದು ಅವರು ವಿವರಿಸಿದರು.
“ಇದು ಹೆಚ್ಚಾಗಿ AI ಮೂಲಕ ಭವಿಷ್ಯದ ಪೀಳಿಗೆಯ AI ಅನ್ನು ತ್ವರಿತವಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸುತ್ತದೆ: ಪುನರಾವರ್ತಿತ ಸ್ವಯಂ-ಸುಧಾರಣೆ. ನಾವು ಇನ್ನೂ ಅಲ್ಲಿಲ್ಲ.”
ಆದಾಗ್ಯೂ, ಅವರು ಸೇರಿಸಿದರು: “ಪ್ರಸ್ತುತ ಹೆಚ್ಚು ಸುಧಾರಿತ ಮಾದರಿಗಳು ಮೌಲ್ಯಮಾಪನ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಸ್ಥಗಿತಗೊಳ್ಳುವುದನ್ನು ತಪ್ಪಿಸಲು ಹೆಣಗಾಡುತ್ತವೆ ಮತ್ತು ಭವಿಷ್ಯದಲ್ಲಿ ಹೆಚ್ಚು ಸಮರ್ಥ ಮಾದರಿಗಳು ‘ಕಿಲ್’ ಸ್ವಿಚ್ ಅನ್ನು ಬೈಪಾಸ್ ಮಾಡಲು ಉತ್ತಮವಾಗಿರುತ್ತವೆ.”
ಈ ಕ್ಷಿಪ್ರಗತಿಯಲ್ಲಿ ಮುನ್ನಡೆಯುತ್ತಿರುವ AIಗಳು ಜಗತ್ತಿಗೆ ಒಳ್ಳೆಯದು ಎಂದು ಆಲ್ಟ್ಮ್ಯಾನ್ ವಾದಿಸಿದರು, ಆದರೆ ಅವರ ಕಾಮೆಂಟ್ಗಳು AI ವ್ಯವಸ್ಥೆಗಳು ತಡೆಯಲಾಗದ ಹೊಸ ವಾಸ್ತವದ ಬಗ್ಗೆ ಮತ್ತಷ್ಟು ಕಾಳಜಿಯನ್ನು ಹೆಚ್ಚಿಸಿವೆ. ಅದರಲ್ಲಿ ಎಷ್ಟು ಸತ್ಯ ಮತ್ತು ವೈಜ್ಞಾನಿಕ ಕಾದಂಬರಿ ಕ್ಷೇತ್ರದಲ್ಲಿ ಎಷ್ಟು ಉಳಿದಿದೆ ಎಂಬುದು ಚರ್ಚೆಗೆ ಗ್ರಾಸವಾಗಿದೆ.
AI ಬಗ್ಗೆ ಕಾಳಜಿಯು “ಸ್ವಾಧೀನಪಡಿಸಿಕೊಳ್ಳಲು”, ತನ್ನದೇ ಆದ ದೀರ್ಘಾವಧಿಯ ಯೋಜನೆಗಳನ್ನು ಮಾಡಲು, ಇಂಟರ್ನೆಟ್ ಅನ್ನು ನಿಯಂತ್ರಿಸಲು ಮತ್ತು ಅನಂತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು “ಬಯಸುತ್ತದೆ” ಎಂಬ ಕಲ್ಪನೆಯಿಂದ ಹಿಡಿದು.
ಇಂಟರ್ನೆಟ್ನ ಸಂಪೂರ್ಣ ನಿಯಂತ್ರಣಕ್ಕೆ ಸಾಕಷ್ಟು ಏರಿಕೆಯಾಗದಿದ್ದರೂ, ಡೆಡ್ ಇಂಟರ್ನೆಟ್ನ ಸಿದ್ಧಾಂತ ಎಂದು ಕರೆಯಲ್ಪಡುವ ಮತ್ತೊಂದು ಸಿದ್ಧಾಂತವು ಭವಿಷ್ಯದಲ್ಲಿ ವರ್ಲ್ಡ್ ವೈಡ್ ವೆಬ್ ಅನ್ನು ಹೆಚ್ಚಾಗಿ ಸ್ವಯಂಚಾಲಿತ ರೋಬೋಟ್ಗಳು ಮತ್ತು ಅಧಿಕೃತ ಮಾನವ ಚಟುವಟಿಕೆಗಿಂತ ಹೆಚ್ಚಾಗಿ AI-ಉತ್ಪಾದಿತ ವಿಷಯಗಳಿಂದ ತುಂಬಿರುತ್ತದೆ ಎಂದು ಊಹಿಸುತ್ತದೆ.
ಆದಾಗ್ಯೂ, ಶಿಕ್ಷಣತಜ್ಞರು ಎತ್ತಿರುವ ಅನೇಕ ಕಾಳಜಿಗಳು AI ಏಜೆಂಟ್ನ ಬುದ್ಧಿವಂತಿಕೆಯ ಮೇಲೆ ಕಡಿಮೆ ಕೇಂದ್ರೀಕೃತವಾಗಿವೆ, ಆದರೆ ತೀರ್ಪುಗಳನ್ನು ನೀಡುವ ಸಾಮರ್ಥ್ಯದ ಮೇಲೆ. AI ಏಜೆಂಟ್ ತಪ್ಪು ಡೇಟಾವನ್ನು ಅವಲಂಬಿಸಿರುವ ಕ್ಷಣಗಳನ್ನು ವಿವರಿಸುವ “ಭ್ರಮೆಗಳು” ಗಂಭೀರ ದೋಷಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು MIT ಸಂಶೋಧಕರು ಒತ್ತಿ ಹೇಳಿದರು. ಸೆಂಟರ್ ಫಾರ್ ಸ್ಟ್ರಾಟೆಜಿಕ್ ಮತ್ತು ಇಂಟರ್ನ್ಯಾಷನಲ್ ಸ್ಟಡೀಸ್ (CSIS) ಇದನ್ನು ಪ್ರತಿಧ್ವನಿಸಿತು, “ಒಂದು ಕಾರ್ಯವನ್ನು ಪರಿಪೂರ್ಣವಾಗಿ ನಿರ್ವಹಿಸಲು ಸಾಕಷ್ಟು ಸ್ಮಾರ್ಟ್ ಆಗಿರಬಹುದು ಆದರೆ ಸ್ಥಳೀಯ ಪರಿಸ್ಥಿತಿಯಲ್ಲಿನ ಹಠಾತ್ ಬದಲಾವಣೆಯು ಆ ಕೆಲಸವನ್ನು ದುರಂತದ ತಪ್ಪಾಗಿ ಮಾಡುತ್ತದೆ ಎಂದು ಅರಿತುಕೊಳ್ಳಲು ವಿಫಲವಾಗಿದೆ”.
ಸ್ವಲ್ಪ ಸಮಯದವರೆಗೆ ಮರುಕಳಿಸುವ ಮತ್ತೊಂದು ಕಾಳಜಿಯು ಉದ್ಯೋಗ ಮಾರುಕಟ್ಟೆಗೆ ಸಂಬಂಧಿಸಿದೆ, AI ತುಂಬಾ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದ್ದರೆ. ನವೆಂಬರ್ನಲ್ಲಿ MIT ಅಧ್ಯಯನವು AI ಏಜೆಂಟ್ಗಳು ಈಗಾಗಲೇ ಯುನೈಟೆಡ್ ಸ್ಟೇಟ್ಸ್ನಲ್ಲಿ ಶೇಕಡಾ 10 ಕ್ಕಿಂತ ಹೆಚ್ಚು ಉದ್ಯೋಗಗಳನ್ನು ಬದಲಾಯಿಸಬಹುದು ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ.
ಕೆಳಗಿನ ಗ್ರಾಫಿಕ್ AI ಮತ್ತು ಪ್ರಸ್ತುತ ವಾಸ್ತವದ ಬಗ್ಗೆ ಕೆಲವು ಸಾಮಾನ್ಯ ತಪ್ಪುಗ್ರಹಿಕೆಗಳು ಮತ್ತು ಭಯಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ.
