X ਤੇ Grok ਨਾਲ ਹੁਣ ਅਸ਼ਲੀਲ ਫੋਟੋ ਬਣਾਉਣ ‘ਤੇ ਰੋਕ: ਕੰਪਨੀ ਨੇ ਮੰਨੀ ਗਲਤੀ, 3,500 ਕੰਟੈਂਟ ਬਲਾਕ, 600 ਤੋਂ ਵੱਧ ਅਕਾਊਂਟ ਡਿਲੀਟ
ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ X ਨੇ ਆਪਣੇ AI ਚੈਟਬੋਟ Grok ਦੇ ਠੀਕ ਤਰੀਕੇ ਨਾਲ ਨਹੀਂ ਵਰਤਣ ਦੀਆਂ ਗਲਤੀਆਂ ਮੰਨੀਆਂ ਹਨ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਅਸ਼ਲੀਲ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ‘ਤੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਰੋਕ ਲਗਾਈ ਜਾਵੇਗੀ ਅਤੇ ਭਾਰਤੀ ਕਾਨੂੰਨਾਂ ਦੀ ਪਾਲਣਾ ਕੀਤੀ ਜਾਵੇਗੀ।
ਸਰਕਾਰ ਦੇ ਸੂਤਰਾਂ ਮੁਤਾਬਿਕ, ਇਹ ਫੈਸਲਾ ਉਸ ਸਮੇਂ ਲਿਆ ਗਿਆ ਜਦੋਂ ਕੁਝ ਅਸ਼ਲੀਲ ਕੰਟੈਂਟ ਵਾਇਰਲ ਹੋਏ। X ਨੇ ਦੱਸਿਆ ਕਿ 3,500 ਤੋਂ ਵੱਧ ਕੰਟੈਂਟ ਬਲਾਕ ਕਰ ਦਿੱਤੇ ਗਏ ਹਨ ਅਤੇ 600 ਤੋਂ ਵੱਧ ਅਕਾਊਂਟ ਵੀ ਡਿਲੀਟ ਕੀਤੇ ਗਏ।
Grok ਦੇ ਗਲਤ ਇਸਤੇਮਾਲ ‘ਤੇ ਉਠਿਆ ਸਵਾਲ
ਸ਼ਿਵਸੇਨਾ (UBT) ਦੀ ਸੰਸਦ ਮੈਂਬਰ ਪ੍ਰਿਯੰਕਾ ਚਤੁਰਵੇਦੀ ਨੇ 2 ਜਨਵਰੀ ਨੂੰ AI ਚੈਟਬੋਟ Grok ਦੇ ਗਲਤ ਇਸਤੇਮਾਲ ਬਾਰੇ ਆਈਟੀ ਮੰਤਰੀ ਨੂੰ ਪੱਤਰ ਲਿਖਿਆ ਸੀ। ਇਸ ਤੋਂ ਬਾਅਦ ਕੇਂਦਰ ਸਰਕਾਰ ਨੇ ਉਸੇ ਦਿਨ X ਨੂੰ ਹਦਾਇਤ ਦਿੱਤੀ ਕਿ ਉਹ Grok ਦੁਆਰਾ ਬਣ ਰਹੇ ਅਸ਼ਲੀਲ ਅਤੇ ਫੂਹੜ ਕੰਟੈਂਟ ਨੂੰ ਤੁਰੰਤ ਹਟਾਏ, ਨਹੀਂ ਤਾਂ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ ਕੀਤੀ ਜਾਵੇਗੀ।
X ਨੇ ਇਸ ਕਾਰਵਾਈ ਦੀ ਜਾਣਕਾਰੀ ਦਿੰਦਿਆਂ ਕਿਹਾ, “ਭਾਰਤ ਸਾਡੇ ਲਈ ਵੱਡਾ ਮਾਰਕੀਟ ਹੈ। ਅਸੀਂ ਇੱਥੇ ਦੇ ਨਿਯਮਾਂ ਦਾ ਆਦਰ ਕਰਾਂਗੇ। ਇਹ ਕਦਮ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ ਨੂੰ ਮਜ਼ਬੂਤ ਬਣਾਉਣ ਵਿੱਚ ਸਹਾਇਕ ਹੋਵੇਗਾ।”
ਪ੍ਰਿਯੰਕਾ ਚਤੁਰਵੇਦੀ ਨੇ X ਦੀ ਕਾਰਵਾਈ ‘ਤੇ ਸਵਾਲ ਉਠਾਇਆ
ਸੰਸਦ ਮੈਂਬਰ ਪ੍ਰਿਯੰਕਾ ਚਤੁਰਵੇਦੀ ਨੇ ਸ਼ਨੀਵਾਰ ਨੂੰ X ਬਾਰੇ ਇੱਕ ਹੋਰ ਪੋਸਟ ਕੀਤਾ। ਉਨ੍ਹਾਂ ਨੇ ਲਿਖਿਆ ਕਿ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ X ਨੇ Grok ਰਾਹੀਂ ਯੌਨ ਤੌਰ ‘ਤੇ ਉੱਤੇਜਕ ਅਤੇ ਅਣਜਾਣ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਰੋਕਣ ਦੀ ਬਜਾਏ ਸਿਰਫ ਪੇਡ ਯੂਜ਼ਰਾਂ ਤੱਕ ਸੀਮਤ ਕਰ ਦਿੱਤਾ ਹੈ।
ਉਨ੍ਹਾਂ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਇਹ ਕਦਮ ਪ੍ਰਭਾਵਤ ਤੌਰ ‘ਤੇ ਮਹਿਲਾਵਾਂ ਅਤੇ ਬੱਚਿਆਂ ਦੀਆਂ ਫੋਟੋਆਂ ਦੇ ਬਿਨਾ ਆਗਿਆ ਦੀ ਵਰਤੋਂ ਦੀ ਆਗਿਆ ਦੇ ਰਹੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਨੂੰ ਖਤਰੇ ਵਿੱਚ ਪਾਇਆ ਜਾ ਰਿਹਾ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ, “ਪਲੇਟਫਾਰਮ ਨਿੰਦਨਯੋਗ ਵਰਤੋਂ ਨੂੰ ਮੋਨਿਟਾਈਜ਼ ਕਰ ਰਿਹਾ ਹੈ, ਇਹ ਸ਼ਰਮਨਾਕ ਹੈ।”
ਇਸ ਤੋਂ ਪਹਿਲਾਂ, X ਦੇ ਮਾਲਕ ਇਲੌਨ ਮਸਕ ਨੇ 3 ਜਨਵਰੀ ਨੂੰ ਕਿਹਾ ਸੀ ਕਿ ਕੁਝ ਲੋਕ ਕਹਿ ਰਹੇ ਹਨ ਕਿ Grok ਅਸ਼ਲੀਲ ਫੋਟੋਆਂ ਬਣਾਉਂਦਾ ਹੈ, ਪਰ ਇਹ ਉਸੇ ਤਰ੍ਹਾਂ ਹੈ ਜਿਵੇਂ ਕੋਈ ਕਲਮ ਨੂੰ ਦੋਸ਼ ਦੇਵੇ ਕਿ ਉਸਨੇ ਕੁਝ ਬੁਰਾ ਲਿਖ ਦਿੱਤਾ। ਮਸਕ ਨੇ ਕਿਹਾ, “Grok ਵੀ ਉਸੇ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਤੁਹਾਨੂੰ ਕੀ ਮਿਲੇਗਾ, ਇਹ ਇਸ ਗੱਲ ‘ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਤੁਸੀਂ ਕੀ ਇਨਪੁੱਟ ਦਿੰਦੇ ਹੋ। ਜ਼ਿੰਮੇਵਾਰੀ ਟੂਲ ਦੀ ਨਹੀਂ, ਉਸਨੂੰ ਵਰਤਣ ਵਾਲੇ ਦੀ ਹੈ।”
Grok ਨਾਲ ਹੋ ਰਹੇ ਦੁਰਪਯੋਗ ਦੀਆਂ ਸ਼ਿਕਾਇਤਾਂ
ਸ਼ਿਵਸੇਨਾ (UBT) ਦੀ ਸੰਸਦ ਮੈਂਬਰ ਨੇ 2 ਜਨਵਰੀ ਨੂੰ AI ਚੈਟਬੋਟ Grok ਦੇ ਗਲਤ ਇਸਤੇਮਾਲ ਬਾਰੇ ਆਈਟੀ ਮੰਤਰੀ ਅਸ਼ਵਿਨੀ ਵੈਸ਼ਣਵ ਨੂੰ ਪੱਤਰ ਲਿਖਿਆ।
ਸੋਸ਼ਲ ਮੀਡੀਆ, ਖਾਸ ਕਰਕੇ X ਤੇ, Grok ਫੀਚਰ ਦਾ ਗਲਤ ਇਸਤੇਮਾਲ ਹੋ ਰਿਹਾ ਹੈ। ਕੁਝ ਵਿਅਕਤੀਆਂ ਫੇਕ ਅਕਾਊਂਟ ਬਣਾਕੇ ਮਹਿਲਾਵਾਂ ਦੀਆਂ ਫੋਟੋਆਂ ਪੋਸਟ ਕਰ ਰਹੇ ਹਨ ਅਤੇ AI ਨੂੰ ਪ੍ਰੌਂਪਟ ਦੇ ਰਹੇ ਹਨ ਕਿ ਉਹਨਾਂ ਦੇ ਕਪੜੇ ਘੱਟ ਦਿਖਾਏ ਜਾਂ ਫੋਟੋਆਂ ਨੂੰ ਗਲਤ ਢੰਗ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਜਾਵੇ।
ਇਹ ਸਿਰਫ ਫੇਕ ਅਕਾਊਂਟ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹੈ, ਜਿਨ੍ਹਾਂ ਮਹਿਲਾਵਾਂ ਨੇ ਆਪਣੀਆਂ ਫੋਟੋਆਂ ਖੁਦ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਹਨ, ਉਹ ਵੀ ਨਿਸ਼ਾਨਾ ਬਣ ਰਹੀਆਂ ਹਨ। ਇਹ ਗੰਭੀਰ ਦੁਰਪਯੋਗ ਹੈ ਅਤੇ ਮਹਿਲਾਵਾਂ ਦੀ ਪ੍ਰਾਈਵੇਸੀ ਦਾ ਉਲੰਘਣ ਹੈ।
ਮਹਿਲਾਵਾਂ ਦੀਆਂ ਫੋਟੋਆਂ ਨੂੰ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ ਵਿੱਚ ਬਦਲਿਆ ਜਾਂਦਾ ਹੈ
ਕੁਝ ਯੂਜ਼ਰ X ਤੇ ਫੇਕ ਅਕਾਊਂਟ ਬਣਾਉਂਦੇ ਹਨ ਅਤੇ ਮਹਿਲਾਵਾਂ ਦੀਆਂ ਫੋਟੋਆਂ ਪੋਸਟ ਕਰਦੇ ਹਨ। ਫਿਰ Grok AI ਨੂੰ ਪ੍ਰੌਂਪਟ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ ਕਿ ਫੋਟੋਆਂ ਨੂੰ ਗਲਤ ਅਤੇ ਅਣਜਾਣ ਤਰੀਕੇ ਨਾਲ ਪੇਸ਼ ਕਰੇ।
AI ਨੂੰ ਕਪੜੇ ਬਦਲਣ ਜਾਂ ਫੋਟੋ ਨੂੰ ਸੈਕਸ਼ੂਅਲ ਢੰਗ ਨਾਲ ਪੇਸ਼ ਕਰਨ ਦੇ ਪ੍ਰੌਂਪਟ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ। ਇਹ ਫੋਟੋਆਂ ਮਹਿਲਾਵਾਂ ਦੀ ਆਗਿਆ ਤੋਂ ਬਿਨਾਂ ਬਣਾਈਆਂ ਜਾਂਦੀਆਂ ਹਨ।
ਕੇਂਦਰ ਸਰਕਾਰ ਦੀ ਚੇਤਾਵਨੀ
ਕੇਂਦਰ ਸਰਕਾਰ ਨੇ ਮੰਗਲਵਾਰ ਨੂੰ ਸਾਰੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ ਨੂੰ ਅਸ਼ਲੀਲ ਕੰਟੈਂਟ ਬਾਰੇ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ। ਇਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਕਿ ਕੰਪਨੀਆਂ ਅਸ਼ਲੀਲ, ਭੱਦੜੇ, ਪੋਰਨੋਗ੍ਰਾਫਿਕ, ਬੱਚਿਆਂ ਨਾਲ ਜੁੜੇ ਯੌਨ ਸ਼ੋਸ਼ਣ ਵਾਲੇ ਅਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਕੰਟੈਂਟ ‘ਤੇ ਤੁਰੰਤ ਰੋਕ ਲਗਾਏ। ਅਗਰ ਕੰਪਨੀਆਂ ਕਾਰਵਾਈ ਨਹੀਂ ਕਰਦੀਆਂ ਤਾਂ ਉਨ੍ਹਾਂ ਖਿਲਾਫ਼ ਕੇਸ ਹੋ ਸਕਦੇ ਹਨ।
ਮਿਨਿਸਟਰੀ ਆਫ ਇਲੈਕਟ੍ਰਾਨਿਕਸ ਐਂਡ IT (Meity) ਨੇ ਇਹ ਐਡਵਾਇਜ਼ਰੀ ਸੋਮਵਾਰ ਨੂੰ ਜਾਰੀ ਕੀਤੀ ਸੀ। PTI ਨਿਊਜ਼ ਏਜੰਸੀ ਨੇ ਮੰਗਲਵਾਰ ਨੂੰ ਰਿਪੋਰਟ ਜਾਰੀ ਕਰਦਿਆਂ ਦੱਸਿਆ ਕਿ ਐਡਵਾਇਜ਼ਰੀ ਵਿੱਚ ਇੰਟਰਨੈਟ ਪਲੇਟਫਾਰਮ ਨੂੰ IT ਐਕਟ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਆਪਣੇ ਕੰਪਲਾਇਅੰਸ ਫਰੇਮਵਰਕ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਲਈ ਕਿਹਾ ਗਿਆ।
ਇਸ ਤਰ੍ਹਾਂ, X ਨੇ Grok ਨਾਲ ਹੋ ਰਹੇ ਗਲਤ ਇਸਤੇਮਾਲ ਨੂੰ ਰੋਕਣ ਲਈ ਮੁੱਖ ਕਦਮ ਚੁੱਕਣ ਦੀ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਹੈ, ਪਰ ਮਹਿਲਾਵਾਂ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਇਹ ਕਾਰਵਾਈ ਹਾਲੇ ਵੀ ਕਾਫ਼ੀ ਚੁਣੌਤੀਪੂਰਣ ਬਣੀ ਹੋਈ ਹੈ।
