TexnoX-in baxışı (Deep Insight)
Önəmli Detallar
- İstifadəçi əvvəlcədən dost və ya ailə üzvü kimi etibarlı əlaqə təyin edə bilir.
- Sistem riskli söhbətləri avtomatlaşdırılmış alətlər və insan qiymətləndirməsi ilə izləyir.
- OpenAI funksiyanı fərdi hesablarda aktiv edir, iş yeri istifadəsində isə bağlayır.
Ətraflı Məqalə
OpenAI ChatGPT-də mümkün özünü zədələmə siqnalları aşkar edildikdə istifadəçinin seçdiyi etibarlı əlaqəyə bildiriş göndərən yeni təhlükəsizlik qatını işə salıb. Bu mexanizm, söhbət riskli məzmun kimi qiymətləndirildiyi halda yaxın çevrədəki bir şəxsin prosesə cəlb olunmasını nəzərdə tutur. Şirkət funksiyanı istifadəçinin əvvəlcədən təyin etdiyi əlaqələr üzərindən qurur və bildirişin məqsədini dərhal dəstək yaratmaq kimi təqdim edir.
Yeni tədbir OpenAI-nin təhlükəsizlik siyasətində avtomatlaşdırma ilə insan nəzarətinin birlikdə işlədiyini göstərir. Şirkətə görə, risk aşkarlananda təhlükəsizlik komandası saatdan az müddətdə müdaxilə edə bilməlidir. Bu yanaşma, süni intellekt platformalarında yalnız məzmun filtrasiyasının deyil, davranış risklərinin də operativ idarə olunmasının önəmini artırır.
Funksiya yalnız şəxsi istifadəçilər üçün nəzərdə tutulub və iş yeri mühitlərində deaktiv edilir. Bu qərar korporativ administrasiya, məxfilik və məsuliyyət sərhədləri baxımından mühüm fərq yaradır. Beləliklə, OpenAI istehlakçı və müəssisə istifadəsi arasında təhlükəsizlik modelini ayrı saxlayır.
Məhsul səviyyəsində bu addım AI platformalarının daha həssas sahələrdə istifadəsi ilə bağlı gözləntiləri yenidən formalaşdırır. Şirkətlər üçün bu, təhlükəsizlik, eskalasiya və insan müdaxiləsi mexanizmlərinin modelin özündən ayrılmaz hissəyə çevrildiyini göstərir. Eyni zamanda, belə funksiyalar platformaların etibar profilinə və müəssisə qəbuluna birbaşa təsir edir.
