Помогите оптимизировать нагрузки чата

Если все же хотите идти тем путем, которым идете, то можете поставить эксперимент на Вашем хостинге. Напишите простой скрипт, который выполняется, скажем, 0.01 сек, и возвращает несколько строк текста. И запустите какой-либо тулзой или другим скриптом одновременно 200 запросов на этот скрипт, с другого сервера с быстрым инетом (если инет медленный, то результат будет намного печальнее), а лучше с нескольких. Замерьте время отклика. Особенно важно обратить внимание, чтобы большинство реквестов не потерялись, а вернуло корректный ответ. Или вместо скрипта можете попробовать читать хотя бы небольшой файлик размером в пару сотен байт, только кеширование вырубите, хотя для чистоты эксперимента лучше скрипт, конечно.

Если за 1 секунду 150-200 реквестов отработают без ошибок, то уже ситуация не безнадежна. Тогда запустите тест на несколько часов, или лучше дней, пусть непрерывно долбит, эмулируя реальную нагрузку работающего чата. Потом посмотрите, что получится. Хотя я заранее могу предсказать результат. Например в случае с отечественным шаред хостингом запросто могут и обвинение в дос атаке предъявить...

Цитата ("Hungry_Hunter"):

По крайней мере 100К посетителей в день держит со всех сайтов и ни капельки не напрягается...

100K уникальных посетителей, или всего заходов на страниц посетителей?
Если 100K заходов, это где-то в среднем 5-10 реквестов в секунду, ну может быть иногда 30-40 во время пиковой нагрузки (да и то, в основном, к статике). Если считали уников, то получится больше, но вряд ли намного. Теперь сравните с 200-250 реквестами в секунду от 500 пользователей чата, если Вашим путем идти.

Цитата:

. Делаем выборку последних 10 сообщений из нее

делайте 100 последних.. а клиент когда нашел несоответствия таймштампа... передает его скрипту и тот из этого файла выдает ему нужное число записей. 20-30-50-70.. сколько надо.

Tvv, спасибо огромное за развернутый ответ. Как всегда не перестаю удивляться Вашему опыту

Цитата ("tvv"):

а для шаред хостинга, а у Вас он скорее всего отечественный (или я ошибаюсь?)

Нет, не отечественный.
Цитата ("tvv"):

и долго такой хостер Вас терпеть не будет за 2-3 USD в месяц (или я не знаю сколько Вы платите, вряд ли шаред хостинг стоит больше)

Плачу 15$
Цитата ("tvv"):

В общем, думаю, мысль понятна?

Да, мысль ясна, спасибо, будем брать сервер, не на много дороже выйдет
Цитата ("tvv"):

Пока потихоньку играетесь, и еще не запустились, Вас терпят, потом, когда количество онлайн пользователей дойдет где-то до сотни, а то и раньше, неизбежно перестанут терпеть, и это нормально.

Я тоже так подумал, поэтому договорился с сапортом, что бы меня предупредили, когда я начну их заваливать
Цитата ("tvv"):

Но вообще чат — это задача типовая, все уже давно написано, и вряд ли есть смысл самому делать эту черную работу.

Ну вообще делается это для получения опыта, поэтому готовые решения не подходят. А вот насчет VPS и демона надо будет подумать, спасибо.
Эксперимент тоже попробую провести, спасибо за совет!
Цитата ("ArtPro"):

делайте 100 последних..

Ну да, так и сделал