Is a mechalel shabbos allowed to be used for a minyan ?
IIRC, I think מחלל שבת בפרהסיא .
כתב הרמב"ם (הלכות שבת פרק ל' הל' ט"ו), וז"ל: "השבת ועבודה זרה כל אחת משתיהן שקולה כנגד שאר כל מצות התורה, והשבת היא האות שבין הקב"ה ובינינו לעולם, לפיכך כל העובר על שאר המצות הרי הוא בכלל רשעי ישראל, אבל מחלל שבת בפרהסיא הרי הוא כעובד עבודה זרה ושניהם כגוים לכל דבריהם". ושם במגיד משנה כתב, וז"ל: "מסקנא דגמרא פרק הכל שוחטין (חולין ה') שהעובד כוכבים ומזלות ומחלל שבתות בפרהסיא הרי אלו מומרין לכל התורה כולה והרי הם כעובדי כוכבים ומזלות גמורים. ומבואר בהרבה מקומות. וטעם השבת – לפי שהוא מורה על החדוש, והכופר בחדוש כופר בכל התורה כולה, ולפיכך צריך להאמין ולקבוע בנפשו אמונת החדוש ולשמור השבת שהוא אות נאמן עליו". וכתב השו"ע (אבה"ע סי' קכ"ג סעי' ב'): "ישראל שהמיר, או שהוא מחלל שבתות בפרהסיא, הרי הוא ככותי לכל דבריו",וכתב השו"ע (יו"ד סימן ב' סעי' ה'): "מומר להכעיס, אפי' לדבר אחד, או שהוא מומר לעבודת כוכבים או לחלל שבת בפרהסיא, או שהוא מומר לכל התורה, אפילו חוץ משתים אלו, דינו כעובד כוכבים".
וכתב הש"ך שם (ס"ק י"ז): "דע שיש מחלוקת בין הפוסקים בזה, והעיקר כהאומרים דעבודת כוכבים אפילו בצנעה אפילו רק פעם אחת הוי מומר לכל התורה ודינו כעובד כוכבים, וכן אפי' חילל שבת פעם אחת בפרהסיא, מיהו באותה שחיטה לא נעשה בה מומר, כגון בשוחט לעבודת כוכבים או השוחט בשבת – אין שחיטה זו אסורה משום שחיטת מומר אלא משום שוחט לעבודת כוכבים כדלקמן בסימן ד' וכן משום שוחט בשבת בסי' י"א, וכן נראה דעת מהרש"ל פ"ק דחולין סי' ז'".
וכתב בשו"ת רב פעלים (ח"ב או"ח סימן י"א): "מיהו כל זה הוא בעובר שאר עבירות חוץ מחלול שבת בפרהסיא, אבל אם מחלל שבת בפרהסיא הרי זה מומר לכל התורה, ודינו כגוי לכל דבר, ואינו מצטרף לעשרה, וכנז' בשו"ע יו"ד סי' הנז"ל, וכן פסק בשו"ע אה"ע סי' קכ"ג ס"ב, ישראל שהמיר או שהוא מחלל שבת בפרהסיא הרי הוא ככותי לכל דבר, וכן פסק בשו"ע או"ח סי' שפ"ה, ישראל מומר לעבודה זרה או לחלל שבתות בפרהסיא, אפילו אינו מחללו אלא באיסור דרבנן הרי הוא כגוי, ואם אינו מחללו אלא בצנעה, אפילו מחללו באיסור דאורייתא, הרי הוא כישראל ומבטל רשותו ע"ש.
הנה כי כן, אם זה האיש הנז' בשאלה הנז' הוא מחלל שבת בצנעה, הרי זה מצטרף לעשרה, כי דינו הוא כישראל גמור, ועיין להגאון חתם סופר בח"מ סי' קצ"ח, שהביא דברי הרמב"ן בענין חלול שבת ויו"ט וכתב, וז"ל: והיוצא לנו מכל הנז"ל שאסור לשום מי שהוא אשר בשם ישראל יכונה, לפתוח חנותו או לסחור במרכלותו ומסחרתו, או לטעון ולפרוק מעגלה שלו בשבת ויו"ט, ואם לא שמע וא"א לכופו הרי הוא מופרש מעדת ישראל, ואין לו דת כלל, ופסול לעדות ולשבועה ולכל דבר, ושחיטתו אסורה, וכל מאכליו ומשקיו בחזקת איסור, כי אבד נאמנות שלו, ואין חילוק בין פותח חנותו מקצתו או כולו או חלונותיו וכדומה, עכ"ל ע"ש.
מיהו בענין מחלל שבת בפרהסיא מבואר באחרונים ביו"ד סי' ב', דהיינו דוקא שחילל שבת בפני עשרה מישראל, ומבואר שם עוד, דאפילו לא חילל בפני עשרה, אם חילל במקום גלוי שנודע לרבים, גם זה מקרי פרהסיא, אבל אם לא היה כן, גם מחלל שבת לא הוי מומר לכל התורה, ודינו כישראל ומצטרף לעשרה. ועוד דע דאם זה האיש אינו מאמין בדברי רז"ל, גם זה דינו כגוי, ואינו מצטרף לעשרה, וכמפורש בדברי מרן ז"ל ביו"ד סי' קי"ט ס"ז שהבאתי לעיל, ועיין ש"ך ס"ק ט"ז, ועיין בש"ח ותורת שלמים סי' ב' ס"ק י"ח, במבעט אפילו בשב ואל תעשה ה"ז אפקרוס, ודינו כגוי, ועיין להגאון אש"א סי' ל"ז סק"א בד"ה מריש הוה אמינא ע"ש.
נמצא העולה מכל הנז"ל דבשאר עבירות, חוץ מע"ז וחלול שבת בפרהסיא, אם עבר לתאבון דינו כישראל לכל דבר ומצטרף לעשרה, ורק אם ראינו אותו שפרק רוב מצות מעל צוארו, אז אם עושה לתאבון, והוא נזהר בקצת מצות ג"כ דינו כגוי, כמ"ש הגאון בש"ח, והבאתי דבריו לעיל".
ובשו"ת רב פעלים (או"ח ח"ג סי' י"ב) כתב, וז"ל: "אבל במחלל שבת בפרהסיא או שהוא מבעט במצוה בפירוש, או שאומר בפירוש שאינו מאמין בדברי רז"ל – אין להקל בזה". ואם הוא מומר להכעיס לאחת ממצוות התורה – אינו מצטרף למניין אפילו אם מחלל שבת בצנעה, כמבואר בשו"ת רב פעלים (ח"ב או"ח סי' י"א) על פי שו"ע (יו"ד סי' ב' ס"ה).