Muistiinpano
Tämän sivun käyttö edellyttää valtuutusta. Voit yrittää kirjautua sisään tai vaihtaa hakemistoa.
Tämän sivun käyttö edellyttää valtuutusta. Voit yrittää vaihtaa hakemistoa.
[Tämä artikkeli sisältää julkaisua edeltävää materiaalia ja voi muuttua.]
Kun käytät ihmisen valvontaa, tietokonetta käyttävä agentti laajenee henkilöön, jonka olet määrittänyt Ihmisen valvonta -asetuksissa, kun se tarvitsee vahvistusta tai lisätietoja.
Muistiinpano
Tietokonekäyttöagentit saattavat kohdata kehotteiden lisäyshyökkäyksiä, joissa näyttökuviin, verkkosivuille tai muihin syötteisiin piilotetut ohjeet yrittävät vaikuttaa toimintaa ei-toivotuilla tavoilla. Tämä riski voidaan minimoida käyttämällä näitä agentteja luotetuissa, eristetyissä ympäristöissä ja käyttämällä tehokkaita oikeellisuustarkistuksia ennen minkään ohjeen suorittamista.
Tärkeää
Tämä artikkeli sisältää Microsoft Copilot Studio esikatseludokumentaatiosta, ja sitä voidaan muuttaa.
Esikatselutoimintoja ei ole tarkoitettu tuotantokäyttöön, ja niiden toiminnot voivat olla rajoitettuja. Nämä toiminnot ovat käytettävissä ennen virallista julkaisua, jotta voit käyttää niitä aikaisessa vaiheessa ja antaa palautetta.
Jos rakennat tuotantovalmista agenttia, katso Microsoft Copilot Studio Yleiskatsaus.
Ominaisuuksien tuki mallin mukaan
Seuraavassa taulukossa luetellaan, mitkä mallit tukevat ihmisen valvontaominaisuutta.
| Mallin tarjoaja | Versio | Tila | Tukee ihmisen valvontaa |
|---|---|---|---|
| Azure OpenAI | OpenAI-tietokone, joka käyttää Agent V1:tä | Poistettu käytöstä | Kyllä |
| Azure OpenAI | Tietokoneen käyttävä toimija (CUA) | Aktiivinen | Kyllä |
| Antrooppinen | Claude Sonnet 4.5 | Aktiivinen | Kyllä |
Agentin ja tietokoneen käyttöaktiviteetin tarkistaminen
Suorituksen aikana, kun tietokonetta käyttävä agentti tarvitsee vahvistusta tai lisätietoja, se voi lähettää tarkistuspyynnön määritetylle ihmisarvioijalle Outlook sähköpostitse ja näyttää sisäisen tarkistuskortin Lisää tietokoneen käytön toimintapaneelissa.
Tekoälymallin toiminta käynnistää ihmisen tarkistuspyynnöt, mikä tarkoittaa sitä, että ne eivät ehkä käynnisty kaikissa tilanteissa, joissa henkilö haluaa keskeyttää, ja ne voivat myös käynnistyä, kun tauko ei ole tarpeen. Älä luota ihmisarviointi- tai selvennyspyyntöihin turvallisuusturvallisuutena tai takuuna siitä, että järjestelmä pyytää aina ihmisten panosta ennen jatkamista.
Muistiinpano
- Vain tietokoneen käyttötyökalun tekijä vastaanottaa tarkastelupyyntöjä, ja hänellä on pääsy yksityiskohtaisiin lokeihin kehittyneen tietokoneen käytön toimintopaneelin kautta. Jos olet määrittänyt käyttäjän tunnistetiedot koneasetuksissa, nämä pyynnöt lähetetään henkilölle, joka alun perin perusti yhteyden, mutta vain jos ne sisällytetään yhdeksi määritetyistä ihmisvalvojista.
- Jos haluat tarkastella inhimillisen tarkastelun pyyntöjä, jotka on tekstiin liitetty tietokonetta käyttävän agentin toiminnan sivupaneeliin agentin toimintakartassa, sinun on otettava tietokoneen lisäkäyttötoiminto käyttöön ympäristössäsi. Jos tietokonekäytön aktiviteetin lisäasetukset eivät näy aktiviteettikartassa, järjestelmänvalvoja on saattanut poistaa ominaisuuden käytöstä ympäristössä. Lue lisää Edistyneestä tietokoneen käytön aktiviteetista.
Seuraavassa taulukossa käsitellään ihmistarkistuksen sähköpostipyyntöön liittyvät tärkeimmät tiedot:
| Kenttä | Description |
|---|---|
| Työkalua käyttävä agentti | Copilot Studio -agentin nimi. |
| Tietokonekäyttötyökalu | Pyynnön käynnistäneen tietokonekäyttötyökalun nimi. |
| Keskustelu | Tämä on suoralinkki agenttitoimintaan, jossa tietokoneen käyttötyökalu on parhaillaan käytössä. |
| Pyynnön aikakatkaisu | Pyynnön aikakatkaisun päivämäärä ja aika |
| Pyytäjä: | Tietokonekäyttötyökalun tekijä (yhteyden omistaja). |
| Anna puuttuvat tiedot | Tekstiruutu sille, miten vastaus lähetetään tietokonekäyttötyökaluun. |
| Lähetä | Painike, jolla voi lähettää syötetyn tekstivastauksen. Vahvistuspyyntöjen yhteydessä kirjoita joko Kyllä vahvistaaksesi tai Ei hylkäämiseksi. |
Vastaa ihmisen tarkastelupyyntöihin
Voit vastata ihmisen tarkastelupyyntöihin joko sähköpostitsetai sisäisesti käyttämällä agentin toimintakartan tietokoneen käyttöpaneelia. Sisäiset vastaukset edellyttävät , että tietokoneen lisäkäyttöä käyttävä toimintopaneeli on käytössä ympäristössä. Jos et vastaa kummassakasi tapauksessa, työnkulku pysyy keskeytettynä ja pysähtyy automaattisesti, kun sähköpostiviestissä määritetty aikakatkaisu saavutetaan.
Tärkeää
Ihmisen valvontajärjestelmä perustuu profiilistiseen tekoälymallitoimintaan. Vaikka järjestelmä sisältää järjestelmäkehotteen ja ehkä muitakin rajoituksia, se voi toisinaan luoda tarpeettomia selvennyspyyntöjä. Käynnistys voi epäonnistua, kun sellainen on odotettavissa, tai se saattaa pyytää tietoja, joita ei pitäisi antaa tietyssä kontekstissa, mukaan lukien mahdollisesti arkaluonteisia tietoja.
Tarkistajien tulisi näin ollen soveltaa arviointiperustetta, kun he vastaavat inhimillisen valvonnan pyyntöihin, eivätkä he saa lähettää arkaluonteisia tietoja, kuten käyttäjänimejä, salasanoja, PIN-tietoja, luottokorttitietoja tai sosiaaliturvatunnuksia. Organisaation määrityksestä riippuen ihmisen tarkastuspyyntöihin annetut vastaukset saattavat säilyä Dataverse-ympäristössäsi ja/tai Purview-valvontalokeissa, ja ne saattavat näkyä organisaatiosi valtuutetuille käyttäjille.
Vastaa sähköpostitse
Ihmisarvostelupyynnön sähköpostiviesti sisältää tietoja agentista, työkalusta ja keskustelusta sekä pyydetyt tarkat tiedot tai selvennykset. Tarkista pyyntö huolellisesti ja selvitä, onko sinulla riittävästi tietoja, jotta voit vastata. Kirjoita tarvittaessa vastauksesi määritettyyn tekstikenttään ja valitse Lähetä.
Vastaa sisäisesti
- Avaa agentin toimintakartta valitsemalla keskustelulinkki ihmisarvostelupyynnön sähköpostissa.
- Etsi tietokoneen käyttötoiminto, joka vastaa määritettyä tietokoneen käyttötyökalua, ja avaa sen sivupaneeli.
- Tarkista aktiviteettiluettelo sivupaneelin Aktiviteetti-osassa. Ihmisarvosteluja odottavat toiminnot on merkitty odotusilmaisimella mallivastauksen vieressä.
- Tarkista pyyntö huolellisesti ja päätä, onko sinulla riittävästi tietoja, jotta voit vastata. Kirjoita tarvittaessa vastauksesi määritettyyn tekstikenttään ja valitse Lähetä.
Ihmisen valvonnan poistaminen käytöstä
Jos haluat poistaa ihmisen valvonnan käytöstä, siirry tietokonekäyttötyökalun Ihmisen valvonta -osioon ja poista kaikki tarkistajat Määritä pyynnöt -luettelosta.