flyroman, да дело не в том, что vlc в принципе не подходит. как вариант вполне можно использовать. вот смотри, ты пробовал получать цвет пикселей, но реально на всём канвасе у тебя всё было залито одним цветом. а эт значит только одно - оверлей и до самого изображения всякими getpixel ну никак не доберёшся. для этого тебе нужно будет писать "фильтр". а там не всё так просто и легко, смысл в это всё лезть? эт первое и основное.
второе. вообще по нормальному нельзя работать с данными, получаемых попиксельно из канваса. каждый вызов getpixel или чего-то аналогичного это оооооооооооооооочень много лишних телодвижений, начиная с того, что это уже вызов функции, заканчивая тем, что эта функция сама по себе делает много ненужных телодвижений.