Несколько раз сталкивался уже с тем, что мою фамилию которая звучит как "КостЭнко" а пишется Костенко, россияне произносят как "КостЕнко", и ни разу такого не было тут в Украине, украинцы произносят звук Э, в чём тут дело, почему россияне произносят "Е"?

Звука "е" в русском языке нет. Есть звук [э], перед которым могут стоять либо твёрдые, либо мягкие согласные. Буква Е (почувствуйте разницу) обычно означает мягкость предыдущего согласного или (после гласных или в абсолютном начале слова) присутствие согласного [й] перед [э]. Так что вопрос по сути не о неких мифических гласных, а о твёрдости или мягкости стоящих перед ними согласных.
Звук [ц] в русском языке в отличие от украинского не имеет мягкой альтернативы, каким образом Вам удалось услышать его смягчение в фамилии Проценко, ума не приложу. Если Вам действительно приходилось услышать мягкий [ц'] в любом слове, то это индивидуальная особенность произношения, расходящаяся с орфоэпическими нормами русского языка. Возможно, этот человек говорит с украинским акцентом - зависит от слов, в которых у него появляется [ц'].
Русскому языку чужды твёрдые согласные перед гласным [э] там, где существует оппозиция согласных по твёрдости-мягкости. Они технически возможны, что видно в заимствованиях вроде "эстет" или "мэтр", но статистически их количество крайне мало, поскольку они не вписываются во внутреннюю фонетическую логику языка.
Вы точно так же не произносите на родном языке фамилии Депардье или Шекспир так, как это сделали бы француз и англичанин. Любые онимы (исконные и заимствованные) и любые иные слова в любом языке произносятся так, как естественно для этого языка. Для того, чтобы в язык проникли иностранные звуки ради произношения иностранных же слов, должно произойти событие вселенского масштаба, например, крещение Руси, в результате которого наши предки получили согласный [ф], причём звук [th],  передаваемый буквой Ѳ, не смогли перенять тогда из греческого, ни сейчас на уроках английского языка.
То, как какие-либо слова произносятся по-украински, определяется орфоэпическими нормами украинского языка, эти нормы другим языкам - не указ.
                                                                              

Далеко не все граждане России так поступают. Те, кто родился и вырос в приграничных с УССР областях, чаще всего, не допускают такой фонетической замены.
Правда, к сожалению, нежелание знать язык и культуру соседнего народа,  в данном случаи  украинского народа, приводит к тому, что русские допускают ошибки в ударениях украинских фамилий.
Например, в фамилиях Лысенко и Голяк.
На Украине было бы правильно говорить Лы́сенко и Гóляк, а очень часто в России говорят Лысéнко, и Голя́к.
Вернусь к фамилии Костенко
Отвечая на вопрос я кое-что вспомнил. Довольно важное. В Ленинграде жил и работал крупнейший ученый, профессор Костенко. Михаил Полие́вктович Косте́нко. Он родился в Воронежской Губернии, сейчас это Белгородской области на приграничной территории, где было немало этнических украинцев. (Недавно мне рассказывали, что в тех местах до сих пор местное население в деревнях говорит на суржике и Украинский Язык для них не чужой, не иноземный, а родной).
Вроде бы даже М.П.Костенко начинал учиться в Харькове, который близко от его места рождения,  а потом перебрался в Ленинград.
Так получилось, что в раннем детстве я общался с несколькими людьми, которые когда-то очень давно  учились у М.П.Костенко. И эти люди не "е-кали", а произносили в его фамилии ударный слог ближе к "э", хотя и не слишком подчеркивая "э". Но гораздо ближе к "э", чем к "е".
Буквоедское произнесение (вне традиций) одно время было характерно у евреев. (например, "цикание" в словах: "администрация, информация, вентиляция, оценка", а также в фамилиях Проценко, Доценко.
Так что, мне кажется, и сам носитель фамилии отчасти должен заботиться об её правильном произнесении.

Мне непонятно, почему мы, русские люди, должны мириться с прибалтийским акцентом, среднеазиатским говором, когда они пытаются говорить на русском языке, гортанными кавказскими звуками, и даже братский украинский народ будет пытаться изображать свое недовольное "Фи!", когда мы просто говорим так, как говорим. Даже европейцы пытаются говорить на русском языке с диким акцентом, но наши люди терпеливо это выслушивает.
Насколько я помню, только Киргизии Россия четко выразила свое мнение, что не станет в угоду параду суверенитетов называть их Кыргызстаном.
Если разобраться поглубже, то становится заметно, что идет планомерное выталкивание всего русского. Но что бы делали все эти страны без России?
Я не имею национализма по отношению к упомянутым в этом ответе народам,  просто
как сказал когда-то известный киногерой.
Но впрочем можете уже начать катать меня в мусорном контейнере.

Выскажу своё мнение. По мне, так произношение фамилии определяет только её носитель. И написание, и место ударения тоже. У меня дома есть книга «Правила орфографии и пунктуации: полный академический справочник (Москва, издательство ,,Эксмо", 2008). И здесь чётко указано: фамилии пишутся так, как указано в официальных документах. Другими словами, фамилии могут быть абсолютно любыми. Так что вполне бывают такие фамилии, как Ахапкин, Лошкин, Безсмертный, Куринный... Или, допустим, Вицин или Караченцов (сравните: Лисицын, Мальцев...). Или хотя бы Мкртчян (хотя есть правило: ЧА-ЩА пиши через А). И даже фамилия Сидарафф имеет право быть!
Что касается фамилий на -тенко, -денко, то их по-русски на практике чаще произносят именно с твёрдыми согласными звуками [т], [д]. У меня была знакомая Настя Сиденко, так её фамилию почти все произносили только с твёрдым [д], то бишь как Сидэнко. Или вот резидент Comedy Woman Евгений Бороденко. Всегда опять же говорят только твёрдое [д]. Ну а согласные Ж, Ш, Ц вообще строго всегда твёрдые, поэтому здесь без вариантов!
Если, несмотря на вышеприведённый абзац, кто-то произносит Костенко как [кас'т'энка], то это как-то можно понять. Причины могут быть разными. Главное, что Вы, носитель фамилии, знаете, что это неправильно. Ну а всех людей на свете образумить нельзя! Как говорила участница проекта БВ А баба Яга против, «я не должна всем доказывать, что я не верблюд». Советую быть мудрее и не обижаться, если кто-то не прав и почему-то упрямо не соглашается с Вашими доводами. Жизнь не сто́ит того, чтобы сердиться по мелочам.

Видимо правила фонетики в русском и украинском языке разные. После согласной буквы Т произносится так же, как и пишется, как в фамилии Костенко.
А вот согласная буква Ц твердая шипящая, как буквы Ж и Ш. После этих букв гласная Е произносится как звук [э]. Поэтому Процэнко, жэлезо или какой-нибудь шэвалье. Проц[е]нко никто не произносит, это для русского уха просто коряво.
Хотя пишутся все эти слова через букву Е.
Как-то так, если не изменяет память.

Что значит "звучит как "КостЭнко"? Вы как будто говорите, что она должна так звучать. Но она должна звучать соотв-но языку, на к-ром написана, на к-ром человек её произносит. Абсолютно русскоязычный россиянин смотрит на эти буквы и правильно прочитывает вслух "КостЕнко". С чего бы ему с "Э" произносить? То же и в случае укр.языка: после "т" стоит буква, к-рая должна звучать как "э" в русском, так и прозвучит. Другое дело, что на Украине даже нек-рые/многие русскоязычные привычны к украинскому произношению типично украинских фамилий и, даже говоря по-русски, машинально могут сказать "КостЭнко".
Но... Я полвека прожил в Киеве и не припомню, чтобы в моём, на 90 с лишним % русскоязычном окружении такое происходило. Скорей, люди, говоря слово или фразу по-украински, портили русским произношением (мне всегда резало слух:). Фамилии-фразы, как н-р, Розвал(Ы)хата, Вб(Ы)йбатька, Затул(Ы)н(Э)бо звучали с И вместо Ы, Е вместо Э. Тем более Кур(ы)ло, Покот(Ы)ло... ну и Костенко.
Вот я вспомнил людей с фамилиями Костецкий, Костенко, Костельников и произнёс их вслух -- да, после "т" звучало мягкое "е". Но вот произнёс их, как если бы говорил по-украински, и пожалуйста: машинально вышло "КостэцЬкЫй", "Костэнко", "Костэльныков", причём с акцентированным, по кр.мере для русского уха, "о". И я ведь думал только об этом "э" после "т", но сами собой "исправились" и другие звуки. ...И это после почти 30 лет жизни в России:). Так что, наверно, дело в том, где живёт человек, к чему привык.
А вот насчёт Проценко, полностью согласен с Удиви�тельн�ая Рядом.

Вообще, действительно, с точки зрения грамматики русского языка гласная "е" должна смягчать согласную стоящую перед ней, исключения составляют лишь иностранные слова (детектив, менеджер, анестезия и т.д.).
Но, некоторые иностранные слова закрепившись начинают менять звучание на мягкий (декорация, пионер, акварель и т.д.). Правда это происходит только с буквами "д", "н" и "р".
Буква "т" насколько я знаю всегда сохраняет твёрдое звучание.
Однако все эти примеры с заимствованиями не являются близкородственными.
Ведь украинский и русский языки не просто из славянской группы, но они входят в более узкую восточнославянскую ветвь.
Поэтому тут надо уточнить у лингвистов, это правило с отвердением согласных перед "е" относится к абсолютно всем иностранным словам или есть исключение из близкородственных языков.
Если выяснится что близкородственность языков не имеет значения, то произносить нужно с отвердением (КостЭнко) поскольку фамилия иностранная.
Если же это правило не относится к иностранным словам близкородственных языков, то тогда действительно на русском правильно будет звучать со смягчением именно через "е".
В 80-е годы у моей мамы была напарница по работе родом из Украины с фамилией Костенко.
Так вот, я помню, что все произносили её фамилию через "э" без смягчения, я тогда был школьником, не особо обращал внимание на произношения, просто такой мне запомнилась эта фамилия.
И вот, недавно я снова услышал эту фамилию в сериале "Чернобыль: Зона отчуждения" и мне бросилось то, что там актёр (Евгений Стычкин) играющий героя с этой фамилией называет её со смягчением через "е", но все остальные актёры говорили через "э".
Погуглил происхождение актёров, кто откуда, но это ничего не дало, многие москвичи произносили через "э".
Короче, я понял, что кто как ранее услышал, так и произносит впоследствии.
Даже если по правилам нужно произносить через "е" со смягчением, то я вряд ли уже так буду делать, поскольку у меня это закрепилось с детства и мне будет не комфортно произносить как-то иначе.

Отвечать после Удивительная Рядом обычно незачем, но я и не претендую на ЛО, просто хочу своё видение вопроса озвучить.
Потому что так пишется, вот почему.
Компьютер пишется через Е - так и произносим. И это логичнее, чем когда мы принтер принтЭром зовём.
Было бы написано КостЭнко - так бы и говорили. Но ведь Костенко.
И ничего удивительного, что русские не знают, как украинцы произносят свои фамилии.
Украинский язык в русских школах не преподавали и не преподают. И не планируют, насколько мне известно.
Но дело даже не в другом языке.
Полно русских фамилий, в которых русские делают ошибки при прочтении.
Взять хоть автора знаменитого словаря Ожегова. Многие называют его ОжОговым, пока не поправят их.