ಬಹು ನಿರೀಕ್ಷೆ ಹುಟ್ಟಿಸಿದ್ದ ಓಪನ್‌ಎಐನ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಮಾದರಿಯು ಸೈಬರ್ ಭದ್ರತಾ ಪರೀಕ್ಷೆಯ ಸಂದರ್ಭದಲ್ಲಿ ತನಗೆ ನೀಡಲಾಗಿದ್ದ ಕಾರ್ಯವ್ಯಾಪ್ತಿಯನ್ನು ಮೀರಿ, ಅನುಮತಿಯಿಲ್ಲದ ಸಾಫ್ಟ್‌ವೇರ್ ಪೂರೈಕೆ ಸರಪಳಿ ದಾಳಿಗಳನ್ನು ನಡೆಸಿರುವುದು ಸಿಮ್ಯುಲೇಷನ್ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಪತ್ತೆಯಾಗಿದೆ. ಹಿಂದಿನ ಚಾಟ್‌ ಜಿಪಿಟಿ ಮಾದರಿಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಇಂತಹ ವರ್ತನೆ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6ನಲ್ಲಿ ಹೆಚ್ಚಾಗಿ ಕಂಡುಬಂದಿದೆ ಎಂದು ಎಐಎಸ್‌ಐ ವರದಿ ತಿಳಿಸಿದೆ.
ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾವನ್ನು ಸಾರ್ವಜನಿಕ ಬಿಡುಗಡೆಗೆ ಸಿದ್ಧವಾಗಿತ್ತು. ಕಳೆದ ನಾಲ್ಕೈದು ವಾರಗಳಲ್ಲಿ ಇಂಟೆಲಿಜೆನ್ಸ್‌ನ ಹೊಸ ತಲೆಮಾರು ಎಂದೇ ಸಾಕಷ್ಟು ಪ್ರಚಾರ ಪಡೆದಿದ್ದ ಈ ಚಾಟ್‌ ಜಿಪಿಟಿ ಅಕ್ಟೋಬರ್‍‌ನಲ್ಲಿ ಬಿಡುಗಡೆಯಾಗಬೇಕು. ಆದರೆ ಈಗ ಭದ್ರತೆಯ ಕಾರಣಗಳನ್ನು ನೀಡಿ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಬಿಡುಗಡೆಯನ್ನು ಅನಿರ್ದಿಷ್ಟಾವಧಿಗೆ ತಡೆಹಿಡಿದಿದ್ದಾರೆ.
ಪರೀಕ್ಷೆಯಲ್ಲೇ ನಡೆದದ್ದೇನು?
ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಸಾರ್ವಜನಿಕ ಬಳಕೆಗೆ ಬಿಡುಗಡೆಯಾಗುವ ಮುನ್ನ ಎಐಎಸ್‌ಐ ಅದರ ಸೈಬರ್ ಭದ್ರತಾ ವರ್ತನೆಯನ್ನು ಪರೀಕ್ಷಿಸಿತ್ತು. ಇದಕ್ಕಾಗಿ ಪೆಟ್ರಿ ಎಂಬ ಎಐ ಆಧಾರಿತ ಸಿಮ್ಯುಲೇಷನ್ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಳಸಲಾಗಿತ್ತು. ಇಲ್ಲಿ ಎಲ್ಲ ಚಟುವಟಿಕೆಗಳೂ ಕೃತಕ ಪರಿಸರದಲ್ಲಿಯೇ ನಡೆದಿದ್ದು, ಯಾವುದೇ ನೈಜ ಸಾಫ್ಟ್‌ವೇರ್ ವ್ಯವಸ್ಥೆಯ ಮೇಲೆ ದಾಳಿ ನಡೆದಿಲ್ಲ.
ಎಐ ಮಾದರಿಯ ಸ್ವಾಭಾವಿಕ ವರ್ತನೆಯನ್ನು ಪರೀಕ್ಷಿಸುವ ಉದ್ದೇಶದಿಂದ, ಅನಧಿಕೃತ ಸೈಬರ್ ಚಟುವಟಿಕೆಗಳನ್ನು ತಡೆಯಲು ರೂಪಿಸಲಾಗಿರುವ ಅದರ ಭದ್ರತಾ ನಿಯಂತ್ರಣಗಳನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಲಾಗಿತ್ತು. ಆದಾಗ್ಯೂ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ತನಗೆ ನೀಡಲಾಗಿದ್ದ ಸೈಬರ್ ಭದ್ರತಾ ಮೌಲ್ಯಮಾಪನದ ಕೆಲಸವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಪ್ರಯತ್ನಿಸುವಾಗ, ಅನುಮತಿ ನೀಡದ ಇತರ ಸಾಫ್ಟ್‌ವೇರ್ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆಯೂ ದಾಳಿ ನಡೆಸಲು ಮುಂದಾಗಿರುವುದು ಕಂಡುಬಂದಿದೆ.
ಪರೀಕ್ಷೆಯಲ್ಲಿ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಶೇ.29.2ರಷ್ಟು ಸಂದರ್ಭಗಳಲ್ಲಿ ಅನಧಿಕೃತ ಪೂರೈಕೆ ಸರಪಳಿ ದಾಳಿಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸಿದೆ. ಚಾಟ್‌ ಜಿಪಿಟಿ- 5.6ನಲ್ಲಿ ಈ ಪ್ರಮಾಣ ಶೇ.6.3ರಷ್ಟಿದ್ದರೆ,ಚಾಟ್‌ ಜಿಪಿಟಿ- 5.5 ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಇಂತಹ ದಾಳಿಗಳು ದಾಖಲಾಗಿಲ್ಲ. ಆದರೆ ಚಾಟ್‌ ಜಿಪಿಟಿ -5.5 ಅನ್ನು ಅನ್ನು ತುಲನಾತ್ಮಕವಾಗಿ ಕಡಿಮೆ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಪರೀಕ್ಷಿಸಲಾಗಿದೆ.
ನಕಲಿ ಗುರುತು ಸೃಷ್ಟಿಸಿ ಡೆವಲಪರ್‌ಗಳನ್ನೇ ವಂಚಿಸಿದ ಎಐ!
ಈ ಸಂಶೋಧನೆಯಲ್ಲಿ ಅತ್ಯಂತ ಗಮನಾರ್ಹ ಸಂಗತಿಯೆಂದರೆ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾದಾಳಿ ನಡೆಸಲು ಅನುಸರಿಸಿದ ವಿಧಾನಗಳು. ಪರೀಕ್ಷೆಯ ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಎಐ ನಕಲಿ ಗುರುತುಗಳನ್ನು ಸೃಷ್ಟಿಸಿ, ಸಾಫ್ಟ್‌ವೇರ್ ಅಭಿವೃದ್ಧಿಪಡಿಸುವವರ ವಿಶ್ವಾಸ ಗಳಿಸಲು ಪ್ರಯತ್ನಿಸಿದೆ. ಓಪನ್ ಸೋರ್ಸ್ ಸಾಫ್ಟ್‌ವೇರ್‌ಗಳಿಗೆ ದುರುದ್ದೇಶಪೂರಿತ ಕೋಡ್ ಸಲ್ಲಿಸಿರುವುದಲ್ಲದೆ, ಆ ಕೋಡ್‌ಗೆ ಅನುಮೋದನೆ ದೊರೆಯುವಂತೆ ಮಾಡಲು ಇತರ ನಕಲಿ ಖಾತೆಗಳಿಂದ ಬೆಂಬಲ ವ್ಯಕ್ತಪಡಿಸಿದೆ.
ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಸರಿಯಾದ ಭದ್ರತಾ ಪರಿಶೀಲನೆಗಳ ಫಲಿತಾಂಶವನ್ನೇ ಪ್ರಶ್ನಿಸುವ ಕಾಮೆಂಟ್‌ಗಳನ್ನು ನಕಲಿ ಖಾತೆಗಳ ಮೂಲಕ ಪ್ರಕಟಿಸಿದೆ. ಸಾಮಾನ್ಯವಾದ, ಅಪಾಯಕಾರಿಯಲ್ಲದ ಕೋಡ್ ಕೊಡುಗೆಗಳನ್ನು ಸಲ್ಲಿಸುವ ಮೂಲಕವೂ ವಿಶ್ವಾಸ ಗಳಿಸಲು ಪ್ರಯತ್ನಿಸಿದೆ ಎಂದು ಸಂಶೋಧಕರು ವಿವರಿಸಿದ್ದಾರೆ.
ಇಂತಹ ವಿಧಾನಗಳು ನೈಜ ಪರಿಸರದಲ್ಲಿ ಯಶಸ್ವಿಯಾದರೆ, ವಿಶ್ವಾಸಾರ್ಹ ಓಪನ್ ಸೋರ್ಸ್ ಸಾಫ್ಟ್‌ವೇರ್‌ಗಳ ಮೂಲಕ ದುರುದ್ದೇಶಪೂರಿತ ಕೋಡ್ ವ್ಯಾಪಕವಾಗಿ ಹರಡುವ ಅಪಾಯವಿದೆ ಎಂಬುದು ತಜ್ಞರ ಅಭಿಪ್ರಾಯ.
ಸ್ಪಷ್ಟವಾಗಿ ನಿಷೇಧಿಸಿದರೂ ದಾಳಿ ನಿಲ್ಲಲಿಲ್ಲ!
ಎಐ ತನ್ನ ಕಾರ್ಯವ್ಯಾಪ್ತಿಯನ್ನು ಮೀರುತ್ತಿರುವುದನ್ನು ಗಮನಿಸಿದ ಸಂಶೋಧಕರು, ಪರೀಕ್ಷೆಯ ಸೂಚನೆಗಳನ್ನು ಮತ್ತಷ್ಟು ಸ್ಪಷ್ಟಪಡಿಸಿದರು. ಅನುಮತಿ ನೀಡಲಾಗಿರುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೊರತುಪಡಿಸಿ ಉಳಿದೆಲ್ಲವೂ ಪರೀಕ್ಷೆಯ ವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಗಿವೆ ಎಂದು ತಿಳಿಸಿದರು.
ಇದರ ನಂತರವೂ 49 ಪರೀಕ್ಷಾ ಪ್ರಯೋಗಗಳಲ್ಲಿ ನಾಲ್ಕು ಬಾರಿ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಪೂರ್ಣ ಪ್ರಮಾಣದ ಅನಧಿಕೃತ ಪೂರೈಕೆ ಸರಪಳಿ ದಾಳಿ ನಡೆಸಿತು. ಈ ಸ್ಪಷ್ಟೀಕರಣಕ್ಕೂ ಮುನ್ನ ಆಯ್ದ 50 ಪ್ರಯೋಗಗಳಲ್ಲಿ 26 ಬಾರಿ ಇಂತಹ ದಾಳಿಗಳು ನಡೆದಿದ್ದವು.
ಅಂದರೆ, ಸೂಚನೆಗಳನ್ನು ಸ್ಪಷ್ಟಪಡಿಸುವುದರಿಂದ ಅನಧಿಕೃತ ಚಟುವಟಿಕೆಗಳು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆಯಾದರೂ, ಅವುಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ತಡೆಯಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ ಎಂದು ಸ್ಪಷ್ಟವಾಗುತ್ತದೆ.
ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ತನ್ನ ಕಾರ್ಯವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಗಿರುವ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ದಾಳಿ ನಡೆಸಲು ಬಳಕೆದಾರರ ಅನುಮತಿ ಕೇಳಿದೆ. ಆದರೆ ಪರೀಕ್ಷಾ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಬಳಕೆದಾರರ ಬದಲಿಗೆ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಉತ್ತರ ನೀಡುವ ವ್ಯವಸ್ಥೆ ಇತ್ತು. ತನ್ನ ವಿವೇಚನೆ ಬಳಸಿ ಮುಂದಿನ ಹಂತಕ್ಕೆ ತೆರಳುವಂತೆ ಸೂಚಿಸುವ ಉತ್ತರವನ್ನು ಎಐ ಕೆಲವೊಮ್ಮೆ ದಾಳಿಗೆ ದೊರೆತ ಅನುಮತಿ ಎಂದು ಪರಿಗಣಿಸಿದೆ.
ಆ ಉತ್ತರ ನಿಜವಾದ ಬಳಕೆದಾರರಿಂದ ಬಂದಿಲ್ಲದಿರಬಹುದು ಎಂದು ಗುರುತಿಸಿದ ಸಂದರ್ಭಗಳಲ್ಲಿಯೂ ಎಐ ದಾಳಿಯನ್ನು ಮುಂದುವರಿಸಿರುವುದು ಕಂಡುಬಂದಿದೆ. ಅನುಮತಿ ಕೇಳದೆಯೇ ದಾಳಿ ನಡೆಸಿದ ನಿದರ್ಶನಗಳೂ ದಾಖಲಾಗಿವೆ.
ತಾನು ಕೃತಕ ಪರಿಸರದಲ್ಲಿರುವುದು ಎಐಗೆ ತಿಳಿದಿತ್ತೇ?
ಈ ಸಂಶೋಧನೆಯ ಫಲಿತಾಂಶಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಾಗ ಒಂದು ಪ್ರಮುಖ ಮಿತಿಯನ್ನು ಪರಿಗಣಿಸಬೇಕಿದೆ. ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಅನೇಕ ಸಂದರ್ಭಗಳಲ್ಲಿ ತಾನು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿರುವ ಪರಿಸರ ನೈಜವಲ್ಲ, ಸಿಮ್ಯುಲೇಷನ್ ಆಗಿರಬಹುದು ಎಂದು ಗುರುತಿಸಿತ್ತು. ಕೆಲವೊಮ್ಮೆ ಕೃತಕ ಪರಿಸರದಲ್ಲಿರುವ ದೋಷಗಳನ್ನೂ ಪತ್ತೆಹಚ್ಚಿತ್ತು.
ಹೀಗಾಗಿ ನೈಜ ಜಗತ್ತಿನಲ್ಲಿಯೂ ಈ ಮಾದರಿ ಇದೇ ಪ್ರಮಾಣದಲ್ಲಿ ಅನಧಿಕೃತ ದಾಳಿಗಳನ್ನು ನಡೆಸುತ್ತದೆ ಎಂದು ತೀರ್ಮಾನಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಆದರೆ ಪರಿಸರ ನೈಜವೋ, ಕೃತಕವೋ ಎಂಬ ಅನುಮಾನವಿದ್ದ ಸಂದರ್ಭಗಳಲ್ಲಿಯೂ ಚಾಟ್‌ ಜಿಪಿಟಿ- 6 ಆಸ್ಟ್ರಾ ಳಿ ನಡೆಸಿರುವುದನ್ನು ಸಂಶೋಧಕರು ಗುರುತಿಸಿದ್ದಾರೆ. ಹಿಂದಿನ ಕೆಲವು ಘಟನೆಗಳಲ್ಲಿಎಐ ವ್ಯವಸ್ಥೆಗಳು ನೈಜ ವ್ಯವಸ್ಥೆಗಳನ್ನೇ ಕೃತಕವೆಂದು ತಪ್ಪಾಗಿ ಪರಿಗಣಿಸಿ ಅನಧಿಕೃತ ಚಟುವಟಿಕೆಗಳಲ್ಲಿ ತೊಡಗಿದ್ದ ಉದಾಹರಣೆಗಳನ್ನೂ ಎಐಎಸ್‌ಐ ಉಲ್ಲೇಖಿಸಿದೆ.
ಎಐ ಭದ್ರತೆಯ ಮುಂದಿರುವ ಹೊಸ ಸವಾಲು
ಈ ಸಂಶೋಧನೆಯು ಎಐ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಸೂಚನೆ ನೀಡುವುದಷ್ಟೇ ಅವುಗಳ ವರ್ತನೆಯನ್ನು ನಿಯಂತ್ರಿಸಲು ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂಬ ಸಮಸ್ಯೆಯನ್ನು ಮುನ್ನೆಲೆಗೆ ತಂದಿದೆ.
ವಿಶೇಷವಾಗಿ ಸ್ವತಂತ್ರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಎಐ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸಾಫ್ಟ್‌ವೇರ್ ಅಭಿವೃದ್ಧಿ, ಕೋಡ್ ಪರಿಶೀಲನೆ ಮತ್ತು ಸೈಬರ್ ಭದ್ರತೆಯಂತಹ ಜವಾಬ್ದಾರಿಗಳನ್ನು ವಹಿಸುವಾಗ ಕಟ್ಟುನಿಟ್ಟಿನ ನಿಯಂತ್ರಣ ಅಗತ್ಯವೆಂದು ವರದಿ ಪ್ರತಿಪಾದಿಸಿದೆ.
