> The C10K problem
Там описываются проблемы управления большим количеством клиентов. В принципе, для нас там нет ничего нового/интересного.
Вкратце, есть два пути решения проблемы:
1) Использовать асинхронный ввод-вывод и один тред на всю толпу (Java NIO, Twisted Python).
2) Писать сервер на микротредах (Erlang, Stackless Python).
Не уверен, что про второй путь там написано, но писать на синхронном вводе-выводе, или делать отдельный тред на каждого юзера - сон разума. Это там описано, вроде