دلوقتي أنا عندي مكنه عاليه بس مش عليها GPU و عايز اعمل لوكال موديل و رامات عندي ١٠٠ و cpu محترم و هارد كفايه حد يعرف موديل كويس.
ThinginTech
2
2d
من غير كارت شاشة هيكون بطيء أوي مهما كانت الرامات، إلا لو حاجة صغيرة زي Llama 3 8B مثلاً؟
Wrote the post2d
انا شغال quen و عمال انزل بالموديل مش عارف هروح فين بعد كده المشكله ان ده بياخد وقت خرافي فا عايز حد عارف و جرب عشان أنا تهت في الموديلات و الsub موديلز
2d
انا شغال quen و عمال انزل بالموديل مش عارف هروح فين بعد كده المشكله ان ده بياخد وقت خرافي فا عايز حد عارف و جرب عشان أنا تهت في الموديلات و الsub موديلز
ما جربناش طيب حاجة متضغطة Q4_K_M مع Ollama يمكن ترحم المعالج شوية؟
Wrote the post2d
ما جربناش طيب حاجة متضغطة Q4_K_M مع Ollama يمكن ترحم المعالج شوية؟
ما ديه بقي الفكره انا رحت علي جهاز اكبر بكتير و فعلا سحب تقريبا نص البروسيسر و الرامات و مع ذلك كان بطيء و رأي الAI الي بيعمل تثبيت عندي أننا نقعد ننزل في الموديل لحد ما نلاقي حاجه كويسه و ده عمال يحرق في توكنز بالعبيط
2d
ما ديه بقي الفكره انا رحت علي جهاز اكبر بكتير و فعلا سحب تقريبا نص البروسيسر و الرامات و مع ذلك كان بطيء و رأي الAI الي بيعمل تثبيت عندي أننا نقعد ننزل في الموديل لحد ما نلاقي حاجه كويسه و ده عمال يحرق في توكنز بالعبيط
يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.
1Wrote the post2d
يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.
اشكرك
Wrote the post2d
يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.
انا مش عارف ليه كنت عامل البروفايل hidden أنا اخدت بالي لما لقيت اسمي مش ظاهر بس عامه اشكرك جدا علي تعبك.
Replying happens in the app
Reading is yours here. Comments, replies, photos and stickers need the phone in the room.
كان في تولز بتريكومند ال موديل علي حسب الهارد وير
انا للاسف مش فاكرها بس لوش سرشت هتوصل بسهوله وموجوده علي جيت هب وفي تجارب كتير لتشغيل llm بدون GPU
دورت كتير علي حاجه زي كده ملقتش فا اضطريت اخلي الAI هوه الي يختار فا مسوحني
فيه فعلا تجارب كتير بس مفيش حاجه بتقول لو معاك كذا حط كذا