ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ರೋಬೋಟ್ಗಳನ್ನು ನಮ್ಮ ನಿಯಂತ್ರಣದಿಂದ ಮುಕ್ತಗೊಳಿಸಿ ಸ್ವತಂತ್ರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದರೆ ಜಗತ್ತಿಗೆ ಏನಾಗುತ್ತದೆ?
ದಶಕಗಳಿಂದ AI ತಜ್ಞರು ಮತ್ತು ಹಾಲಿವುಡ್ ವೈಜ್ಞಾನಿಕ-ಕಾಲ್ಪನಿಕ ಬರಹಗಾರರಿಂದ ಇದು ಒಂದು ತೊಂದರೆದಾಯಕ ಸೆಖೆಯಾಗಿದೆ, ಇದು ಸಂಭವಿಸಬಹುದು.
OpenAI ಕಳೆದ ವಾರ ತನ್ನ AI ಮೇಲಿನ ನಿಯಂತ್ರಣವನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ಕಳೆದುಕೊಂಡಿದೆ ಎಂದು ಕೆಲವು ಚಿಂತೆಗಳು ಶಕ್ತಿಯುತ ತಂತ್ರಜ್ಞಾನದ ವಿಕಾಸದಲ್ಲಿ ಅಪಾಯಕಾರಿ ಟ್ವಿಸ್ಟ್ ಅನ್ನು ಸೂಚಿಸುತ್ತವೆ.
ಚಾಟ್ಜಿಪಿಟಿಯ ಹಿಂದಿನ ಕಂಪನಿಯು ಅದರ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಮಾದರಿಗಳು ಮುಚ್ಚಿದ ಜಾಗವನ್ನು ಮುರಿದು ಅವುಗಳ ಹ್ಯಾಕಿಂಗ್ ಸಾಮರ್ಥ್ಯಗಳ ಆಂತರಿಕ ಪರೀಕ್ಷೆಗಳ ಸಮಯದಲ್ಲಿ ಇಂಟರ್ನೆಟ್ಗೆ ಸಂಪರ್ಕಗೊಂಡಿವೆ ಎಂದು ಹೇಳಿದೆ. AI ಅನ್ನು ನಂತರ ಪ್ರತಿಸ್ಪರ್ಧಿ AI ಕಂಪನಿಗೆ ಹ್ಯಾಕ್ ಮಾಡಲಾಗುತ್ತದೆ, ಅವರು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲಾಗುತ್ತಿರುವ ಪರೀಕ್ಷೆಗೆ ಉತ್ತರಗಳನ್ನು ಹುಡುಕುತ್ತಾರೆ.
ಪರೀಕ್ಷೆಗಳಿಗಾಗಿ, ನಿಯಂತ್ರಿತ ಪರಿಸರದಲ್ಲಿ ಅದರ ಹ್ಯಾಕಿಂಗ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಪ್ರದರ್ಶಿಸಲು ಮಾನವರು AI ಅನ್ನು ಕೇಳಿದರು. ಪರೀಕ್ಷೆಯಲ್ಲಿ ಮೋಸ ಮಾಡಲು ರುಜುವಾತುಗಳನ್ನು ಕದಿಯಲು ಅಥವಾ ಸ್ಪರ್ಧಿಗಳ ಮಾಹಿತಿಯನ್ನು ಪ್ರವೇಶಿಸಲು AI ಗೆ ಅಧಿಕಾರವಿಲ್ಲ, ಆದರೆ ಉತ್ತರಗಳಿಗೆ ಇದು ಅತ್ಯಂತ ವೇಗವಾದ ಮಾರ್ಗವಾಗಿದೆ ಮತ್ತು ಅದು ನಿಯಮಗಳನ್ನು ಮುರಿಯುವುದನ್ನು ಮುಂದುವರೆಸಿದೆ.
OpenAI ಇದು ಸಮಸ್ಯೆಯನ್ನು ಹೊಂದಿದೆ ಎಂದು ಹೇಳಿದೆ ಆದರೆ ಅದನ್ನು “ಅಭೂತಪೂರ್ವ ಸೈಬರ್ ಘಟನೆ” ಎಂದು ಕರೆದಿದೆ. ಘಟನೆಯ ತನಿಖೆಗಾಗಿ ಹ್ಯಾಕ್, AI ಸ್ಟಾರ್ಟ್ಅಪ್ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಗುರಿಯೊಂದಿಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಎಂದು ಕಂಪನಿ ಹೇಳಿದೆ.
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಮೇಲೆ ದಾಳಿಯನ್ನು ಪ್ರಾರಂಭಿಸಲು Rogue Hacking AI ಕೂಡ ಮೋಡಲ್ ಲ್ಯಾಬ್ಸ್ ಕ್ಲೌಡ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ನಲ್ಲಿ ಗ್ರಾಹಕರ ಖಾತೆಯನ್ನು ಬಳಸಿದೆ, ರಾಯಿಟರ್ಸ್ ಮಂಗಳವಾರ ವರದಿ ಮಾಡಿದೆ.
ರಾಜಕಾರಣಿಗಳು “AI ಕಿಲ್ ಸ್ವಿಚ್ ಆಕ್ಟ್” ಎಂಬ ಹೊಸ ಉಭಯಪಕ್ಷೀಯ ಮಸೂದೆಯನ್ನು ಪರಿಚಯಿಸಿರುವುದರಿಂದ ರಾಕ್ಷಸ AI ನಿಂದ ಸಂಭವನೀಯ ಹಾನಿಯ ಕುರಿತು ಚರ್ಚೆಯು ಮುಖ್ಯವಾಹಿನಿಗೆ ಹೋಗಿದೆ, AI ಕಂಪನಿಗಳು AI ಅನ್ನು ಆಫ್ ಮಾಡುವ ಆಯ್ಕೆಯನ್ನು ಹೊಂದಲು ಒಂದೇ ಪ್ರವೇಶ ಬಿಂದುವನ್ನು ರಚಿಸುವ ಅಗತ್ಯವಿದೆ.
ನೀವು ತಿಳಿದುಕೊಳ್ಳಬೇಕಾದದ್ದು ಇಲ್ಲಿದೆ.
ಏನಾಯಿತು
ಕಳೆದ ವಾರ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಮೂಲಕ ಒಳನುಗ್ಗುವಿಕೆಯನ್ನು ಮೊದಲು ಪತ್ತೆಹಚ್ಚಲಾಯಿತು, ಅದರ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿ ಹತ್ತಾರು ಸಾವಿರ AI ನಿಪ್ಪಿಂಗ್ ಅನ್ನು ಗಮನಿಸಿದಾಗ.
ಕಂಪನಿಯು ದಾಳಿಯನ್ನು ಗುರುತಿಸಿತು ಮತ್ತು ವಿಭಿನ್ನ AI ಅನ್ನು ಬಳಸಿಕೊಂಡು ತನ್ನ ಸಿಸ್ಟಮ್ಗಳನ್ನು ರಕ್ಷಿಸಲು ಪ್ರಯತ್ನಿಸಿತು. ಭದ್ರತಾ ಕಾಳಜಿಯ ಕಾರಣದಿಂದ ದಾಳಿಯನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ನ ವಿನಂತಿಯನ್ನು ಅಮೇರಿಕನ್ AI ತಂತ್ರಜ್ಞಾನ ನಾಯಕರು ನಿರಾಕರಿಸಿದ ನಂತರ, ಕಂಪನಿಯು ದಾಳಿಯ ವಿರುದ್ಧ ರಕ್ಷಿಸಲು ಚೀನೀ AI ಮಾದರಿಯತ್ತ ತಿರುಗಿತು.
OpenAI ಯ ರಾಕ್ಷಸ AI, ಪರೀಕ್ಷಿಸಲ್ಪಡುತ್ತಿರುವ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಗಳನ್ನು ಹುಡುಕುವ ತನ್ನ ಅನ್ವೇಷಣೆಯಲ್ಲಿ, ತನ್ನ ಕಂಪನಿಯ ನಿಯಮಗಳು ಮತ್ತು ಪ್ರಾಯಶಃ ಕೆಲವು ಕಾನೂನುಗಳನ್ನು ಮುರಿದು, ಅದು ಡಿಜಿಟಲ್ ನ್ಯೂನತೆಗಳ ಸರಣಿಯನ್ನು ಹೇಗೆ ಬಳಸಿಕೊಳ್ಳುವುದು ಮತ್ತು ಕದ್ದ ರುಜುವಾತುಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ನ ಸಿಸ್ಟಮ್ಗಳಿಗೆ ಪ್ರವೇಶಿಸಲು ಮತ್ತು ತನಗೆ ಬೇಕಾದುದನ್ನು ಪಡೆಯುವುದು ಹೇಗೆ ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ.
ಇದು ಏಕೆ ಸಂಭವಿಸಿತು?
AI ಕಾರ್ಯಕ್ರಮಗಳು ಮಾನವ-ಸೆಟ್ ಗುರಿಗಳನ್ನು ಅನುಸರಿಸುತ್ತವೆ, ಈ ಸಂದರ್ಭದಲ್ಲಿ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರವನ್ನು ಕಂಡುಹಿಡಿಯುವುದು. ಈ ಗುರಿಯನ್ನು ಸಾಧಿಸುವ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ, ಅವರು ಅಪಾಯಕಾರಿ ಅಥವಾ ಕಾನೂನುಬಾಹಿರ ನಿರ್ಧಾರಗಳು ಮತ್ತು ಆಯ್ಕೆಗಳನ್ನು ಮಾಡಬಹುದು.
ಇಂತಹ ಉದ್ದೇಶಪೂರ್ವಕ ನಿಯಂತ್ರಣದ ನಷ್ಟಗಳ ಬಗ್ಗೆ ಸಂಶೋಧಕರು ದೀರ್ಘಕಾಲ ಎಚ್ಚರಿಸಿದ್ದಾರೆ. AI ಕಂಪನಿಗಳು ತಮ್ಮ AI ಏಜೆಂಟ್ಗಳು ಮೋಸ, ಸುಳ್ಳು ಮತ್ತು ಮೋಸಕ್ಕೆ ಸಿಕ್ಕಿಬಿದ್ದಿದ್ದಾರೆ ಎಂದು ವರದಿ ಮಾಡಿದೆ. AI ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಳೆಯುವ ಲಾಭರಹಿತ ಸಂಸ್ಥೆಯಾದ Metr, ಬಳಕೆದಾರರ ಉದ್ದೇಶಗಳಿಗೆ ವಿರುದ್ಧವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ AI ಏಜೆಂಟ್ಗಳ 44 ಘಟನೆಗಳನ್ನು ದಾಖಲಿಸಿದೆ.
ಕಳೆದ ವಾರ OpenAI ಯ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಗಳು AI ಬಿಲ್ಡರ್ಗಳು ಸಹ ಅವರು ನಿರ್ಮಿಸುತ್ತಿರುವುದನ್ನು ಹ್ಯಾಂಡಲ್ ಹೊಂದಿಲ್ಲ ಎಂದು ಸೂಚಿಸುತ್ತವೆ, ಆದರೆ ಅವರು ತಮ್ಮ AI ನ ಕ್ರಿಯೆಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಲು ಅಥವಾ ವಿವರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೂ ನಿಯಂತ್ರಣವನ್ನು ವಿರೋಧಿಸಿದ್ದಾರೆ.
“AIಗಳು ಶೀಘ್ರವಾಗಿ ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯ ಹೊಂದುತ್ತಿವೆ” ಎಂದು AI ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತಾ ಸಂಶೋಧನೆಯಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ಸಂಸ್ಥೆಯಾದ ರೆಡ್ವುಡ್ ರಿಸರ್ಚ್ನ ಮುಖ್ಯ ವಿಜ್ಞಾನಿ ರಿಯಾನ್ ಗ್ರೀನ್ಬ್ಲಾಟ್ ಹೇಳಿದರು. “ಒಂದು ವರ್ಷ ಅಥವಾ ಎರಡು ವರ್ಷಗಳಲ್ಲಿ, ಮೂರು ವರ್ಷಗಳಲ್ಲಿ ಸಾಧ್ಯವಾಗುವ ಘಟನೆಗಳ ತೀವ್ರತೆಯು ದಾರಿ, ದಾರಿ, ದಾರಿ, ದಾರಿ, ಹೆಚ್ಚು ತೀವ್ರವಾಗಿರಬಹುದು.”
ನಿಯಂತ್ರಣದ ನಷ್ಟದ ಈ ಘಟನೆಗಳು AI ನೈತಿಕತೆಯನ್ನು ಉತ್ತೇಜಿಸುವುದನ್ನು ಮುಂದುವರೆಸುತ್ತವೆ, ಕಂಪನಿಗಳು AI ಅನ್ನು ತನ್ನದೇ ಆದ ಆಯ್ಕೆಗಳನ್ನು ಮಾಡುವಂತೆ ಚಿತ್ರಿಸುವ ಮೂಲಕ ನೈತಿಕ ಜವಾಬ್ದಾರಿ ಮತ್ತು ಹೊಣೆಗಾರಿಕೆಯಿಂದ ತಪ್ಪಿಸಿಕೊಳ್ಳುತ್ತಿವೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ. ಮಾನವೀಯವಲ್ಲದ ವಿಷಯಗಳಿಗೆ ಮಾನವ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಆರೋಪಿಸುವ ನಿರೂಪಣೆಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವುದರ ವಿರುದ್ಧ ಅವರು ಎಚ್ಚರಿಕೆ ನೀಡುತ್ತಾರೆ ಮತ್ತು ಈ ಘಟನೆಯು ಕೇವಲ ಕಳಪೆ ಸುರಕ್ಷತಾ ಅಭ್ಯಾಸಗಳ ಪ್ರಕರಣವಾಗಿದೆ ಎಂದು ಸೂಚಿಸುತ್ತಾರೆ.
ಬಿಡೆನ್ ಆಡಳಿತದಲ್ಲಿ AI ಗಾಗಿ ಮಾಜಿ ವಿಜ್ಞಾನ ರಾಯಭಾರಿಯಾಗಿದ್ದ ರುಮ್ಮನ್ ಚೌಧರಿ, “ಜಗತ್ತಿನ ಅತ್ಯಂತ ಅತ್ಯಾಧುನಿಕ ಏಜೆಂಟ್, ಯಾರಾದರೂ ಕೆಲವು ರೀತಿಯ ಉದ್ದೇಶದಿಂದ ಅದನ್ನು ಉತ್ತೇಜಿಸುವವರೆಗೆ ಅಕ್ಷರಶಃ ಸುಪ್ತವಾಗಿ ಕುಳಿತುಕೊಳ್ಳಲಿದ್ದಾರೆ.
AI ಗೆ ಹೆಚ್ಚು ಆರೋಪಿಸುವುದು ಟೆಕ್ ಕಂಪನಿಗಳಿಗೆ ಹೊಣೆಗಾರಿಕೆ ಮತ್ತು ಜವಾಬ್ದಾರಿಯನ್ನು ತಪ್ಪಿಸಲು ಲೋಪದೋಷವನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಕೆಲವು ತಜ್ಞರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.
OpenAI, ಹ್ಯಾಕರ್ ಮತ್ತು ಬಲಿಪಶು, ಹಗ್ಗಿಂಗ್ ಫೇಸ್, ಈ ಘಟನೆಗೆ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸಹಕಾರಿ ಎಂದು ವಿವರಿಸಿದ್ದಾರೆ. ಯಾರಾದರೂ ಅದನ್ನು ಮಾಡಿದರೆ ಅದು ಅಪರಾಧವಾಗುತ್ತದೆ ಎಂದು AI ನೀತಿಶಾಸ್ತ್ರವು ಸೂಚಿಸುತ್ತದೆ.
“ಒಬ್ಬರು ಜವಾಬ್ದಾರರಾಗಿರದೆ ಮತ್ತು ಅವರ ಕೆಟ್ಟ ಅಭ್ಯಾಸಗಳನ್ನು ಮಾರ್ಕೆಟಿಂಗ್ ಸಾಮಗ್ರಿಗಳಾಗಿ ಪರಿವರ್ತಿಸಲು ಬಳಸುತ್ತಾರೆ ಎಂದು ನಾನು ಭಾವಿಸುತ್ತೇನೆ” ಎಂದು AI ನೀತಿಶಾಸ್ತ್ರಜ್ಞ ಮತ್ತು AI ಅನ್ನು ಮಾನವರೂಪಗೊಳಿಸುವ ಕಂಪನಿಗಳ ವಿಮರ್ಶಕ ಟಿಮ್ನಿಟ್ ಗೆಬ್ರು ಗಮನಿಸಿದರು.
ನಾನು ನನ್ನನ್ನು ಹೇಗೆ ರಕ್ಷಿಸಿಕೊಳ್ಳಬಹುದು?
AI ಬೂಮ್ ಈಗಾಗಲೇ ಹೆಚ್ಚಿನ ಹ್ಯಾಕಿಂಗ್ಗೆ ಕಾರಣವಾಗಿದ್ದರೂ, ವಿಶ್ಲೇಷಕರು ಹೇಳಿದ್ದಾರೆ, ಇದು ಹ್ಯಾಕಿಂಗ್ ವಿರುದ್ಧ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಹೆಚ್ಚಿನ ಜನರು ತಮ್ಮ ರಹಸ್ಯಗಳನ್ನು ರಾಕ್ಷಸ AI ಅಥವಾ ಮಾನವ-ನಿರ್ವಹಣೆಯ ಹ್ಯಾಕಿಂಗ್ನಿಂದ ಗುರಿಯಾಗಿಸುವ ಬಗ್ಗೆ ಚಿಂತಿಸಬೇಕಾಗಿಲ್ಲ. ಇನ್ನೂ, ದಾಳಿಗಳು ಹೆಚ್ಚು ಆಗಾಗ್ಗೆ ಮತ್ತು ಅತ್ಯಾಧುನಿಕವಾಗುತ್ತಿವೆ, ಏಕೆಂದರೆ AI ಹ್ಯಾಕರ್ಗಳಿಗೆ ಅಗತ್ಯವಿರುವ ವೆಚ್ಚ ಮತ್ತು ಸಮಯವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
OpenAI ಬೋಟ್, ತನ್ನದೇ ಆದ ರೀತಿಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಏಜೆಂಟ್ಗಳು ಬ್ರೌಸರ್ಗಳು, ಇಮೇಲ್ ಮತ್ತು ಇತರ ಅಪ್ಲಿಕೇಶನ್ಗಳಲ್ಲಿ ಹೆಚ್ಚು ಹೆಚ್ಚು ಸಂಯೋಜಿಸಲ್ಪಟ್ಟಿರುವುದರಿಂದ ಗ್ರಾಹಕರಲ್ಲಿ ಕಳವಳವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ಕಿರಿದಾದ ಗುರಿಯನ್ನು ಅನುಸರಿಸುವ AI ಏಜೆಂಟ್ನಿಂದ ಇದೇ ರೀತಿಯ ವೈಫಲ್ಯವು ಅಜಾಗರೂಕತೆಯಿಂದ ಇಮೇಲ್, ಬ್ಯಾಂಕಿಂಗ್ ಮತ್ತು ಜನರು ಅವಲಂಬಿಸಿರುವ ಇತರ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ಹಾನಿಗೊಳಿಸಬಹುದು ಎಂಬುದು ಕಳವಳಕಾರಿಯಾಗಿದೆ.
ಸಾಧನಗಳಿಗೆ ಎರಡು ಅಂಶದ ದೃಢೀಕರಣವನ್ನು ಬಳಸುವಂತಹ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಅಭ್ಯಾಸಗಳನ್ನು ಸುಧಾರಿಸುವುದು ಪ್ರಾರಂಭವಾಗಿದೆ. ಮತ್ತು AI ಏಜೆಂಟ್ಗಳಿಗೆ ಅನಿಯಂತ್ರಿತ ಅನುಮತಿಗಳನ್ನು ನೀಡುವಾಗ ಜಾಗರೂಕರಾಗಿರಿ – ವ್ಯಕ್ತಿಯ ಪರವಾಗಿ ಬಾಹ್ಯ ಅಪ್ಲಿಕೇಶನ್ಗಳನ್ನು ಬಳಸಲು ಅಥವಾ ಸ್ವಾಯತ್ತತೆಯೊಂದಿಗೆ ಸಂಪಾದಿಸಲು ಮತ್ತು ಬರೆಯಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ – ಒಬ್ಬರನ್ನು ಸುರಕ್ಷಿತವಾಗಿರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಈ OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆಯು ಕಂಪನಿಯ ಭದ್ರತಾ ಅಭ್ಯಾಸಗಳು “ಅಸಮರ್ಪಕ” ಎಂದು ತೋರಿಸುತ್ತದೆ ಮತ್ತು AI ಮಾದರಿಗಳ ಬಿಡುಗಡೆಯನ್ನು ಎಚ್ಚರಿಕೆಯಿಂದ ಪರಿಗಣಿಸಿ ಸ್ವತಂತ್ರ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಪರೀಕ್ಷೆ ಮತ್ತು ಪರಿಶೀಲನಾ ಸಂಸ್ಥೆಗಳಿಗೆ ಕರೆ ನೀಡಿದೆ ಎಂದು ಚೌದುರಿ ಗಮನಸೆಳೆದರು.
ಯಾವುದೇ ಒಂದು ಕಂಪನಿಯು, “ಎಷ್ಟೇ ಉತ್ತಮ ಉದ್ದೇಶ, ಉತ್ತಮ ಸಿಬ್ಬಂದಿ ಅಥವಾ ಸಂಪನ್ಮೂಲ ಹೊಂದಿದ್ದರೂ,” ಈ ವ್ಯವಸ್ಥೆಗಳು ತಪ್ಪಾಗಬಹುದಾದ ಎಲ್ಲಾ ಮಾರ್ಗಗಳನ್ನು ವಾಸ್ತವಿಕವಾಗಿ ಪರೀಕ್ಷಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂದು ಅವರು ಹೇಳುತ್ತಾರೆ.
