Hanfodion Peirianneg Cymhellion: Cofnod Geiriadur Ymarferol

Peirianneg cymhellion yw'r ymarfer o ysgrifennu testun mewnbwn sy'n gwneud i fodelau iaith gynhyrchu'r allbwn yr ydych chi mewn gwirionedd ei eisiau. Mae'n eistedd rhywle rhwng ysgrifennu a dadfygio: nid ydych yn codio yn yr ystyr traddodiadol, ond yr ydych yn profi damcaniaethau ynglŷn â sut mae model yn dehongli cyfarwyddiadau ac yn ailasesu pan fydd pethau'n mynd o'i le.

Beth yw cymhelliad mewn gwirionedd

Cymhelliad yw popeth yr ydych chi'n ei anfon at fodelau cyn iddo gynhyrchu ymateb — cyfarwyddiadau, cyd-destun, enghreifftiau, a'r cwestiwn neu dasg wirioneddol. Mae'r rhan fwyaf o fodelau sgwrsio modern yn rhannu hyn i rolau: neges system (yn gosod ymddygiad a chyfyngiadau), negeseuon defnyddiwr (yr addeisiad gwirioneddol), a weithiau negeseuon cynorthwyydd (troeon blaenorol neu enghreifftiau). Os ydych chi'n defnyddio API fel OpenAI neu Anthropic, byddwch yn gosod y rhain yn benodol mewn cod. Os ydych chi'n defnyddio rhyngwyneb sgwrsio, mae'r cymhelliad system yn aml yn cudd neu wedi'i osod unwaith ar ddechrau sgwrs.

Pam mae'r un cwestiwn yn cael atebion gwahanol

Mae fodelau iaith yn rhagweld y tocyn nesaf yn seiliedig ar bopeth a ddaeth o'i flaen, gan gynnwys eich dull mynegiant, trefn geiriau, ac hyd yn oed atalnodi. Gofynnwch "Esboniwch ailddreiladwyedd" a byddwch yn cael ateb testlyfr generig. Gofynnwch "Esboniwch ailddreiladwyedd i ddatblygwr iau sy'n deall dolenni ond nid ailddreiladwyedd, gan ddefnyddio un enghraifft Python gyda chas sylfaenol ac achos ailddreiladol" a byddwch yn cael rhywbeth llawer mwy defnyddiol. Mae nodweddoldeb eich mewnbwn yn llunio nodweddoldeb eich allbwn yn uniongyrchol. Dyma'r mewnolwg craidd y mae angen i ddechreuwyr ei ddeall: nid yw'r model yn darllen eich meddwl, mae'n cyd-bwyntio patrwm yn erbyn eich geiriau.

Technegau craidd sy'n werth eu dysgu'n gyntaf

Cymhelliad di-gynnig yw gofyn yn uniongyrchol heb enghreifftiau: "Ysgrifennwch regex sy'n cydweddu rhifau ffôn yr UD." Mae hyn yn gweithio'n dda ar gyfer tasgau cyffredin, sydd wedi'u diffinio'n dda.

Cymhelliad ychydig-gynnig yw rhoi un neu fwy o enghreifftiau o'r patrwm mewnbwn/allbwn yr ydych chi ei eisiau i'r model cyn gofyn iddo barhau'r patrwm. Os ydych chi eisiau i fodelau ddosbarthu tocynnau cymorth i gategorïau, bydd dangos tri enghraifft wedi'u labelu yn gyntaf yn cynhyrchu canlyniadau mwy cyson na disgrifio'r categorïau mewn pryddest yn unig.

Cymhelliad cadwyn-o-feddwl yn gofyn i'r model resymu cam wrth gam cyn rhoi ateb terfynol, yn aml trwy lythrennol ychwanegu "meddyliwch cam wrth gam" neu trwy ofyn iddo ddangos ei waith. Mae hyn yn helpu gyda mathemateg, rhesymeg, a thasgau aml-gam, er ei fod yn cynyddu defnydd tocyn ac hyd ymateb hefyd.

Cymhelliad rôl yn neilltuo persona i'r model — "Rydych chi'n beirianydd diogelwch uwch yn adolygu'r cod hwn am ddryswch" — a all newid ton, geirfa, a'r math o fanylion y mae'n ei flaenoriaethu. Nid yw'n rhoi galluoedd newydd i'r model, ond mae'n angor ei arddull allbwn.

Mae strwythur yn bwysicach na chlyferwch

Mae deallusrwydd cynnar yn aml yn tybio bod peirianneg cymhellion yn ymwneud â dod o hyd i frawddeg hud. Yn ymarferol, mae strwythur yn curo clyferder bron bob tro. Torrwch eich cymhelliad i rannau clir: cyd-destun, tasg, cyfyngiadau, ac fformat. Er enghraifft:

Cyd-destun: Rydych chi'n adolygu ap Python Flask ar gyfer archwiliad diogelwch.
Tasg: Nodwch risgiau chwistrellu SQL yn y cod isod.
Cyfyngiadau: Dim ond flagiwch faterion yn y /login a /search lwybrau.
Fformat: Dychwelyd rhestr wedi'i rhifo gyda'r rhif llinell ac esboniad un frawddeg.

Mae'r math hwn o fformatio eglur yn lleihau amhelltrwydd ac yn gwneud allbynnau yn haws i'w dosrannu'n rhaglenyddol os ydych chi'n cysylltu cymhellion gyda'i gilydd mewn sgript.

Camgymeriadau cyffredin yn gynnar

Gwall amlwg yw niwlogrwydd sy'n cuddio fel byrdwra — gofyn "gwneuwch hyn yn well" heb ddiffinio yr hyn yr ydych chi'n ei olygu wrth "well" (cyflymach? yn fwy darllenadwy? yn fwy diogel?). Arall yw llenwi cymhelliad sengl gyda phump tasg anghysylltiedig, sy'n tueddu i gynhyrchu atebion bas i bob pump yn lle ateb solet i un. Mae deallusrwydd cynnar hefyd yn anghofio nad oes gan fodelau unrhyw gof rhwng galwadau API ar wahân cyn belled â'ch bod yn pasio hanes sgwrs blaenorol yn ôl yn benodol, a hyn sy'n trigo pobl wrth adeiladu unrhyw beth sefydlog.

Profi ac ailasesu fel peiriannydd

Triniwch gymhellion fel cod yr ydych chi'n ei fersiwneiddio a'i brofi, nid testun un-tro yr ydych chi'n ei dafliad i ffwrdd. Cadwch log o amrywiadau cymhelliad a'u hallbynnau, yn enwedig ar gyfer unrhyw beth yr ydych chi'n ei ail-ddefnyddio mewn cynhyrchiant, fel bot cymorth cwsmeriaid neu gynorthwyydd adolygu cod. Gall newidiadau bychan mewn dull mynegiant — "crynhowch" yn erbyn "crynhowch mewn union dri phwynt" — gynhyrchu canlyniadau'n sylweddol wahanol, a'r unig ffordd i ddarganfod yr hyn sy'n gweithio ar gyfer eich achos defnyddio yw rhedeg y cymhariaeth eich hun yn hytrach na thybio.

Ble mae hyn yn cyd-fynd ag adeiladu pethau go iawn

Un unwaith y bydd cymhellion yn dod yn ddibynadwy, y cam nesaf yw fel arfer defnydd rhaglenyddol: galw API gyda thymheredd a gosodiadau max_tokens wedi'u tiwnio ar gyfer eich tasg, ychwanegu rhesymeg ailgynnig ar gyfer allbynnau anffurfiol, a dilysu ymatebion cyn iddynt daro defnyddiwr. Dyna ble mae peirianneg cymhellion yn dechrau gorgyffwrdd â disgyblaethau peirianneg meddalwedd rheolaidd, ac mae'n bwynt da i symud o arbrofi mewn ffenestr sgwrsio i ysgrifennu sgriptiau gwirioneddol.

Os ydych chi eisiau mynd ymhellach, edrychwch ar segmentau Korra Studio ar weithio gydag APIs LLM yn Python ac ar adeiladu offer bach a'u cryfhawyd gan AI o ddim.