ThinginTech

دلوقتي أنا عندي مكنه عاليه بس مش عليها GPU و عايز اعمل لوكال موديل و رامات عندي ١٠٠ و cpu محترم و هارد كفايه حد يعرف موديل كويس.

2
2d

كان في تولز بتريكومند ال موديل علي حسب الهارد وير

2d

انا للاسف مش فاكرها بس لوش سرشت هتوصل بسهوله وموجوده علي جيت هب وفي تجارب كتير لتشغيل llm بدون GPU

Wrote the post2d

دورت كتير علي حاجه زي كده ملقتش فا اضطريت اخلي الAI هوه الي يختار فا مسوحني

Wrote the post2d
انا للاسف مش فاكرها بس لوش سرشت هتوصل بسهوله وموجوده علي جيت هب وفي تجارب كتير لتشغيل llm بدون GPU

فيه فعلا تجارب كتير بس مفيش حاجه بتقول لو معاك كذا حط كذا

2d

من غير كارت شاشة هيكون بطيء أوي مهما كانت الرامات، إلا لو حاجة صغيرة زي Llama 3 8B مثلاً؟

Wrote the post2d

انا شغال quen و عمال انزل بالموديل مش عارف هروح فين بعد كده المشكله ان ده بياخد وقت خرافي فا عايز حد عارف و جرب عشان أنا تهت في الموديلات و الsub موديلز

2d
انا شغال quen و عمال انزل بالموديل مش عارف هروح فين بعد كده المشكله ان ده بياخد وقت خرافي فا عايز حد عارف و جرب عشان أنا تهت في الموديلات و الsub موديلز

ما جربناش طيب حاجة متضغطة Q4_K_M مع Ollama يمكن ترحم المعالج شوية؟

Wrote the post2d
ما جربناش طيب حاجة متضغطة Q4_K_M مع Ollama يمكن ترحم المعالج شوية؟

ما ديه بقي الفكره انا رحت علي جهاز اكبر بكتير و فعلا سحب تقريبا نص البروسيسر و الرامات و مع ذلك كان بطيء و رأي الAI الي بيعمل تثبيت عندي أننا نقعد ننزل في الموديل لحد ما نلاقي حاجه كويسه و ده عمال يحرق في توكنز بالعبيط

2d
ما ديه بقي الفكره انا رحت علي جهاز اكبر بكتير و فعلا سحب تقريبا نص البروسيسر و الرامات و مع ذلك كان بطيء و رأي الAI الي بيعمل تثبيت عندي أننا نقعد ننزل في الموديل لحد ما نلاقي حاجه كويسه و ده عمال يحرق في توكنز بالعبيط

يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.

1
Wrote the post2d
يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.

اشكرك

Wrote the post2d
يبقى كدا مفيش مفر من استخدام API خارجي أو كارت شاشة بجد، بالتوفيق في التجربة.

انا مش عارف ليه كنت عامل البروفايل hidden أنا اخدت بالي لما لقيت اسمي مش ظاهر بس عامه اشكرك جدا علي تعبك.

Replying happens in the app
Reading is yours here. Comments, replies, photos and stickers need the phone in the room.
دلوقتي أنا عندي مكنه عاليه بس مش عليها GPU و عايز اعمل… | 22Blues