”`html
Amazon SageMaker AI on julkistanut uuden tuen OpenAI-yhteensopiville API-päätepisteille, mikä mahdollistaa reaaliaikaisen ennustamisen suoraan SageMakerin kautta. Tämä tarkoittaa, että käyttäjät voivat hyödyntää OpenAI SDK:ta, LangChainia tai Strands Agentsia ja tehdä ennusteita muuttamalla vain päätepisteen URL-osoitetta.
Helppokäyttöisyys ja yhteensopivuus
Uuden päivityksen myötä Amazon SageMaker AI tarjoaa OpenAI-yhteensopivat API-päätepisteet, jotka tukevat reaaliaikaisia ennusteita. Käyttäjät voivat nyt hyödyntää OpenAI SDK:ta ilman tarvetta mukautetuille asiakkaille tai koodimuutoksille. Tämä tekee SageMakerista entistä helpomman ja joustavamman alustan AI-mallien käyttöön.
Bearer-tunnukset ja turvallisuus
SageMakerin uusi ominaisuus sisältää mahdollisuuden luoda aikarajoitettuja bearer-tunnuksia, joita voi käyttää OpenAI-asiakkaiden kanssa. Tunnukset ovat voimassa jopa 12 tuntia, ja ne voidaan luoda AWS-ympäristössä olevista olemassa olevista tunnistetiedoista. Tämä parantaa turvallisuutta, sillä tunnuksia ei tarvitse tallentaa tai jakaa, ja niiden käyttö on rajoitettu tiettyihin päätepisteisiin.
Monimalliratkaisut yhdellä päätepisteellä
Käyttäjät voivat nyt isännöidä useita malleja yhdellä SageMaker AI -päätepisteellä. Tämä mahdollistaa eri mallien, kuten Llama ja Mistral, käytön samassa ympäristössä, jolloin jokainen malli saa omat resurssinsa. Tämä yksinkertaistaa monimutkaisten AI-agenttien rakentamista ja hallintaa, kun kaikki mallit ovat saatavilla saman OpenAI-yhteensopivan rajapinnan kautta.
Miksi tämä on tärkeää
Uusi OpenAI-yhteensopivuus tekee Amazon SageMaker AI:sta entistä houkuttelevamman alustan AI-kehittäjille, jotka haluavat integroida ja hyödyntää useita AI-malleja saumattomasti. Tämä laajentaa mahdollisuuksia kehittää monimutkaisia AI-ratkaisuja ilman tarvetta monimutkaisille koodimuutoksille tai erillisille asiakasohjelmille. Lisäksi turvallisuusominaisuudet, kuten bearer-tunnukset, tarjoavat lisäsuojaa ja helppokäyttöisyyttä, mikä on tärkeää erityisesti suurissa ja kriittisissä sovelluksissa.
”`
