Conversation
JZX777

Jay Byte

Making bots with PromptQL: code embeddings
Show content

Recently I wrote another article on making bots by prompt engineering with PromptQL. I explained how expansion and execution of code embeddings brings full power to prompt templates. Here it is:

https://medium.com/@jzx777/making-bots-with-promptql-code-embeddings-5b21efd52c51

For purpose of examples, I ran bot with the Openhermes Mistral 2.5B model and the llama.cpp server.

Openhermes model: https://huggingface.co/TheBloke/OpenHermes-2.5-Mistral-7B-GGUF

llama.cpp server: https://github.com/ggerganov/llama.cpp/tree/master/examples/server

#PromptQL #promptengineering #prompts #ai #golang #go #programming #opensource #library #programminglanguage #llm #LocalLLM #openhermes #llamacpp #cottagesoftware #craftprogramming #indietech

Hover to show content
Hover to show content
Hover to show content
0
0
0
About Идеалисты Интернета

Сообщество для тех, кто верит, что Интернет может стать средством построения нового мира. Такого, где место каждого целиком и полностью зависит от интеллекта, знаний, творческих способностей и фантазии, а не от связей, «умения вертеться» или положения родителей. Мира, где места хватит всем, поэтому не будет конкуренции, а будет сотрудничество в духе «сделай для себя, поделись со всеми». И главное, люди будут более открытыми и дружелюбными, чем в оффлайне.

В нашем сообществе недопустимы:

  • пропаганда идей социал-дарвинизма или конкуренции как неотъемлемой части жизни

  • уничижительно-оскорбительные выражения политического характера типа «совок», «рашка», «левак»

  • коммерческая деятельность и предложение каких-либо платных услуг (исключения могут быть сделаны для объявлений «ищу работу» для постоянных участников, а также в ответах на сообщения, автор которых явно указывает, что заинтересован именно в платных услугах)

  • любые действия, направленные на нарушение нормальной работы сервера, а также массовые автоматизированные рассылки

  • публикация материалов, противоречащих законодательству Российской Федерации

  • поздравления с днями рождения

Также неприемлемо сознательное создание конфликтных ситуаций. А если таковые всё же возникают, то меры будут приниматься по отношению к тем, кто в большей степени эти конфликты провоцирует. Спокойное и эмоционально ровное общение — наше всё!